AIはディープフェイクの世界から人々を救うことができるのか

業界の専門家マイク・エルガンが、偽造における人工知能の役割について説明します。例えば、彼はこう語った。「私が子どもの頃、兄と一緒に紙皿、アルミホイル、ビー玉でUFOを作りました。そして、そのUFOを釣り糸に吊るし、屋上に上がってUFOが飛んでくる様子を家庭用カメラで撮影し、エイリアンの存在の確固たる証拠を手に入れました。このゲームは一種のディープフェイクです。」

[[316363]]

偽物や模造品は常に存在してきました。しかし、すべてがデジタル化されると、作成と配布がより簡単に、より速く、より広範囲に及ぶようになります。人工知能 (AI) はこれをまったく新しいレベルに引き上げ、誰でもマルチメディア (ビデオやオーディオなど) の完璧な偽造品を作成できるようになります。

偽造者は偽造品を作成し、検出器を使用して検出することで、偽造者に検出に関する情報を提供します。偽造者はその後、その方法を調整し、より優れた偽造品を作成します。しかし、偽りに満ちた世界で、人々はどう対処するのでしょうか?

フェイクニュース（またはフェイクニュースに関するニュース）

ディープフェイク動画が政治に利用されることを懸念する人は多い。例えば、最近、BJPのマノジ・ティワリ議長が支持者に向けてさまざまな言語で行った演説がディープフェイク動画だったという出来事がありましたが、幸いなことに、対立候補のコメントを偽造するために使用されたわけではありませんでした。しかし、ディープフェイクが政治に利用されるようになったという事実は画期的なことだ。

AIによる偽造のもう一つの例は、ラッパー兼ソングライターのトラヴィス・スコットの新曲「ジャック・パーク・キャニー・ドープ・マン」だ。この曲はAIが生成した音楽と歌詞が特徴で、ミュージックビデオではスコット自身が歌っている。

OpenAI GPT-2 は、ほぼあらゆるスタイルで記事を作成できる言語作成 AI テクノロジーです。雑誌『ニューヨーカー』の文体を真似て、詩を書くこともできます。 OpenAIは、テスラのCEOであるイーロン・マスク氏らによって設立された非営利の研究組織です。

AIによって作成された偽造品が犯罪に利用されることを懸念する人は多いが、これはすでに起きている。

セキュリティベンダーのシマンテックは、CEOの声を模倣したディープフェイク音声が企業の従業員に対して使用されている事例を3件確認した。ディープフェイク技術は、YouTubeのスピーチや企業の決算発表の電話会議からCEOの声のサンプルを採取することができ、詐欺師は電話でCEOの声を真似て、従業員を騙してCEOに緊急資金を送金させる。

AIが完璧なディープフェイク動画を作成する方法

現在、ディープフェイク動画を作成するための一般的な方法は 2 つあります。 1 つ目は、エンコーダーとデコーダーを使用してビデオ内の顔をフレームごとに一致させて置き換える顔交換テクノロジーです。

2 番目のアプローチは、生成的敵対的ネットワーク (GAN) と呼ばれます。このアプローチは、あらゆる種類の説得力のある偽造データを作成するために使用でき、2 つの人工知能アルゴリズムを使用します。 1 つのアルゴリズムは偽のデータを作成するために使用され、もう 1 つのアルゴリズムは判断を下し、作成アルゴリズムにフィードバックを提供します。この実践を大規模に繰り返すことで、両方のアルゴリズムの能力が向上しました。最終的には、作成者のアルゴリズムが非常に優れたものとなり、ビデオ、オーディオ、テキスト、指紋などの偽のデータを生成できるようになります。

偽のビデオの作成はますます巧妙化しています。香港を拠点とするスタートアップ企業SenseTimeは、南洋理工大学および中国科学院自動化研究所と共同で、音声に基づいてビデオを自動編集できるフレームワークSenseTImeを開発した。

韓国の企業ハイパーコネクトは、政治家や有名人など、誰かの顔の動きを他の人の顔にリアルタイムでマッピングできる「マリオネット」というツールを開発した。

一方、ディープフェイク技術はますます強力になり、民主化も進み、今では消費者向けアプリにも登場しています。誰もが説得力のあるディープフェイク動画や音声を作成できるようになるのは時間の問題です。

そのため、偽造文書を検出する方法を見つけることが不可欠です。

偽造技術がオンライン化

テクノロジーインキュベーターの Jigsaw はもともと Google の一部門でしたが、後に Alphabet に移管され、現在は Google に戻っています。 Jigsaw は、ファクトチェッカーが画像を検証するのを支援するために、Assembler と呼ばれるプラットフォームを作成しました。このツールは、米国の7つの大学が開発したさまざまな技術とアルゴリズム、およびJigsaw自身が作成したアルゴリズムを組み合わせて、既知の写真偽造方法で生成された証拠を見つけることで画像を処理します。

Google は人工知能と人間の知能を組み合わせて、Google マップ上の虚偽、非倫理的、または悪意のあるレビューを見つけて削除します。同社は今月、ポリシー違反を理由に7500万件以上のレビューと400万件の偽のビジネスプロフィールを削除したと発表した。人工知能はまず、すべてのレビューとビジネス プロフィールを確認し、明らかに違反しているものを自動的に削除します。難しい問題はスタッフに引き継がれ、処理されます。

ワシントン大学とアレン人工知能研究所の研究者らは、ディープフェイクの署名を92%の精度で識別できる「グローバー」と呼ばれるアルゴリズムを開発した。

Facebookは最近、Social Science Oneと呼ばれるプログラムを通じて、独立した研究者にユーザーの活動に関する特定の情報へのアクセスを許可した。

ハーバード大学とMITのIBMワトソンAIラボの科学者らは、サイバースペースを拠点とするソフトウェアの「巨大言語モデルテストルーム」を公開した。このソフトウェアは、特定のテキストがAIによって書かれたものかどうかを判定するために使用できる。

ウォータールー大学の研究者らが設立したカナダのスタートアップ企業DarwinAIは、ディープラーニングを使ってフェイクニュースを検出する「DarwinAI」と呼ばれる技術を開発した。彼らの技術は見出しと記事の内容を比較します。今後の反復では、DarwinAI は記事のテキストを他の記事と比較します。

フェイクニュースを使って政治プロセスを推進するという最もクレイジーなアイデアの一つは、膨大な量の著作や演説を使って、アメリカ建国の父たちであるアダムズ、ハミルトン、ジェイ、ジェファーソン、マディソン、ワシントンの心を人工知能でシミュレートし、「復活」させるというものだ。

コンテンツを検証するためのソリューションとしてブロックチェーンを提案する人もいますが、これは受け入れがたい提案かもしれません。これらの初期の製品、テクノロジー、試験が示すように、偽造品検出の未来は明らかに人工知能です。

偽造と偽造防止の競争における人工知能の応用

新しいソーシャル メディア アカウントの 4 分の 1 は偽物または詐欺であると推定する人もいます。偽アカウントは無害に思えるかもしれませんが、偽のニュース、スパム、サイバー犯罪と密接に関連していることがよくあります。偽アカウントを検出する現在のシステムはあまり強力ではないと報告されています。 NATOの調査により、彼らが作成した偽のプロフィールの95％が、調査結果を公表してから数週間経ってもまだ使用されていたことが判明した。

Twitter、Facebook、その他のソーシャルネットワークが偽アカウントを検出するシステムの開発に数十億ドルを投資し、何年も取り組んできたことを考えると、これは驚くべき事実です。偽造者は、検出が進むたびに何百万もの偽アカウントを作成します。つまり、偽造者は常に検出を​​先取りすることになります。

ある程度、偽造者と発見者の間では猫とネズミのゲームが行われている。偽造者は偽造品を作成し、検出器はそれを検出し、検出に関する情報を偽造者に提供します。偽造者はその後、手法を微調整し、より優れた偽造品を作成します。この競争は永久に続く可能性が高い。人間の知覚は完全に置き去りにされ、競争は完全に人工知能システム間のみで行われるようになるでしょう。

真実はそこにありますが、それを知るには人工知能の助けが必要です。