ディープニューラルネットワークはディープフェイクを検出できる

開発者がディープフェイクのパンドラの箱を開けたことで、本物と区別がつかないほどリアルな写真を偽造する人工知能技術が、あらゆる分野で幅広い議論を巻き起こしている。朗報としては、カリフォルニア大学リバーサイド校のアミット・K・ロイ・チョウドリー教授率いる研究チームが、写真がディープフェイクによって偽造されたかどうかを分析できる高レベルのディープニューラルネットワークを開発したことだ。

（写真：カリフォルニア大学リバーサイド校、New Atlas経由）

研究中、研究チームは改ざんされた写真と改ざんされていない写真の大規模なデータセットをディープニューラルネットワークに入力し、それらに対応するコンピュータラベルを作成した。

研究チームは、自ら改ざんした画像の中で、映像にデジタル的に追加された物体の境界ピクセルを強調表示した。研究者らはこれまでに、偽の写真に写った異常な物体の境界が、本物の物体の境界よりも滑らかであったり、異なっていたりする可能性があることを明らかにしている。

人間の目ではこれらの違いを検出できないかもしれませんが、コンピューターは各ピクセルの異常を調べ、ラベル付けされたデータセットをディープニューラルネットワークに入力することができます。

これは、生データのパターンを認識するように設計された、人間の脳を大まかにモデル化した一連のアルゴリズムです。これに基づいて、ディープニューラルネットワークは、追加された数字によって示される画像の境界を認識することを学習します。

その後、データセット外のこれまで見たことのない写真を見せると、ディープフェイク写真を高い精度で識別することができました。

なお、このシステムは現在のところ静止画にのみ対応していますが、チームはこれをビデオ識別に適用するために懸命に取り組んでいます。結局のところ、ビデオの本質は連続した一連の画像です。
もちろん、実際に試験的に使用されてみても、このディープニューラルネットワークが 100% の認識精度を達成することは決してないかもしれません。結局のところ、トレーニングデータは研究者によって意図的にマークされているからです。

この研究の詳細は、最近発行された画像処理ジャーナル「IEEE Transactions on Image Processing」に掲載されました。原題は: