seoil e&m

2021.06.18 17:38

ここ数年、偽物のほうがより信頼されるようになった。
ある場合は、人間としてはそれらの一部を本物のイメージと区別できなくなっている。

たとえディープ·フェイク(deep fake)を探知することは依然として強力な挑戦課題であるが、
それらがさらに精巧になることによる疑問が生じる。 例えば、「ディープフェイクが単なる面白さと畏敬心だけでなく、
大規模で悪意のために大量生産された時には、果たして何が発生するのか。"

それで、Facebook AIとミシガン州立大学(Michigan State University、MSU)は、
共同研究を通じて単一人工知能(AI)の生成イメージからこれを生成するのに使われる生成モデルまで、
リバースエンジニアリング(Reverse engineering)に依存するディープフェイクを探知するプラットフォームや方法を、
6月16日(現地時間)に提示した。

ディープフェイクを論じる現在の方法は、イメージが本物なのかディープフェイクなのかを教えたり、
学習中に本モデルによってイメージが生成されたのかを確認することに焦点を合わせる。
(クローズセット分類を通じたイメージ属性)

しかし、ディープフェイクの拡散問題を解決するためには、議論をもう一段階進めなければならず、
学習中に存在する制限されたモデルセットを超えてイメージの属性を拡張する方法を理解するために努力しなければならない。
学習で見られない生成モデルを利用してディープフェイクを作ることができるため、
クローズセット(Close-set)されたイメージ属性を越えることが重要である。

リバースエンジニアリングはディープフェイクの問題にアプローチする他の方法であるが、
マシンラーニングの新しい概念ではない。
リバースエンジニアリングマシンラーニングモデルに対する以前の作業は入出力対を検査し、
モデル自体をブラックボックスで処理してモデルに到達する。

もう一つのアプローチ方式は、CPU及びメモリ使用のようなハードウェア情報をモデル干渉中に使用できると仮定する。
この二つのアプローチ方式はモデルそのものに対する既存の知識に依存するため、
このような情報がしばしば使用されない実際の事例での使用性を制限する。

特に、Facebook AIのリバースエンジニアリングは、単一ディープフェイクイメージを生成するのに使用される
AIモデルの固有パターンを明らかにし、イメージ属性で始めた後、
イメージ生成に使用されたモデルの属性を発見する作業を行う。

即ち、オープンセット認識に対するイメージ属性を一般化することにより、
以前には見られなかったものを認識することを越えてディープフェイク生成に使用されるAI生成モデルに対する
根本的なより多くの情報を推論することができるのである。

そしてディープフェイクのパターンの間の類似点を追跡することにより、
一連のイメージが一つのソースから由来したのか、その根源も知ることができる。
同一のAIモデルから生成されたディープフェイクを探知するこの機能は、
ディープフェイクを使用して操作された情報又はその他の悪意ある攻撃のインスタンスを見つけるのに有用である。

作動原理は、生成モデルが残した指紋に対する詳細情報を推定するために、
指紋推定ネットワーク(Fingerprint Estimation Network、FEN)を通じてディープフェイクイメージを実行することから始まる。
機器の指紋(Device Fingerprints)は、製作するプロセスの欠陥により、
特定の機器で生成された各イメージに、微妙であるが固有のパターンが残る。

例えば、デジタル写真で指紋はイメージを生成するのに使われるデジタルカメラを識別するのに使われる。
このように機器指紋と同様にイメージ指紋は生成モデルによって生成されたイメージに残された固有のパターンであり、
イメージが生成された生成モデルを識別するのに同一に使うことができる。

Facebook AIは今回、モデル構文分析(Model Parsing)を初めて行ったため、比較のための既存の基準線がなかった。
研究チームは学習しようとするデータの原本または実際の値を表現する「グラウンド·トゥルース(Ground Truth)セット」で、
各超媒介変数をランダムに混ぜてランダム·グラウンド·トゥルース(random ground-truth)という基準線を形成した。

結果として、このような任意の実測ベクトルはもとの分布を維持し、
アプローチ方式が任意の根拠基準線よりもはるかに良い性能を発揮することがわかった。

これは、生成されたイメージと、味のあるアーキテクチャ超媒介変数および損失関数類型の埋め込み空間の間に、
同一の長さ及び分布のランダムベクトルと比較して、実際にははるかに強力で一般化された相関があることを示している。

また、指紋推定と階層的学習の効果を立証するために切除研究(Ablation Studies)を実施した。

モデル構文分析の他にも、ディープフェイクの感知やイメージ属性にも使用できる。
両作業全て、推定された指紋を入力して、二進(ディープフェイク検知)または多重クラス分類(イメージ属性)を遂行する
浅い神経網(Shallow Network)を追加する。

指紋推定はこのような作業に合わせて調整されていないが、依然として競争的な最先端技術として結果を達成し、
指紋推定の優れた一般化能力を示している。

Facebook AIは責任あるAI(Responsible AI)の優先順位で、
出来る限り人間中心のアプローチを研究に適用することを念頭に置き、
100個の生成モデルから様々なディープフェイクイメージを収集したのはFacebook AIのモデルとして作られ、
人間と非人間の表現両方で一般化できるより良い能力を持っていることを意味する。

ディープフェイクの生成に使われた原本イメージの一部は、公開的に使用可能な顔データセットにある実際の個人イメージであるが、
ミシガン州立大学の研究チームはディープフェイクを生成するのに使われた原本イメージではなく、
ディープフェイクを使ってフォレンジックスタイルの分析を始めた。

この方法にはディープフェイクを指紋で分解することが含まれるため、ミシガン州立大学の研究チームは、
モデルが指紋を原本イメージコンテンツに再びマッピングできるかどうかを分析した。
結果では、これが発生しないことが明らかになり、これは指紋がもとのディープフェイクの内容ではなく、
生成モデルが残した痕跡を主に含んでいることを確認した。

一方、今回の研究に使われた全ての偽の顔イメージはミシガン州立大学が生成し、
リバースエンジニアリングプロセスに対する全ての実験もミシガン州立大学で行われた。
これに、使用されたデータセット、コード及び訓練されたモデルを、
より多くの研究や開発者コミュニティにオープンソースとして現在公開している。

これを通じてディープフェイク探知、イメージ属性、リバースエンジニアリングを含めた
様々な領域で研究·開発を促進することになると予想される。

研究者と開発者たちはディープフェイクを使用して捏造された虚偽情報をよりよく探知し、
新しい方向を提示することができる道具として提供したのである。
加えて、ディープフェイク探知の研究および理解の境界を越えて、実際の配布により適したモデル構文分析の概念を導入した。


＊本件についてお問い合わせ事項がございましら、当ホームページの「お申込み/お問い合わせ」か下記の連絡先へご連絡お願いします。
部署名：SEOIL E&M 企画マーケティンググループ
TEL ：+82)2-6204-2033
E-mail : pl@seoilenm.com