MIT、悪意のあるAI編集から画像を保護する「PhotoGuard」技術を開発

7月25日、AIベースのディープフェイク技術が進化を続ける中、人間が肉眼で「どのコンテンツがAIによって偽造されたものか」を見分けることがますます難しくなってきている。MITはこのほど、Photoguardと呼ばれる技術を発表した。Photoguard技術で処理された画像はAIによる直接的な識別や改ざんが困難であり、クローラーによって画像が改変され、誤って解釈されることを防ぐのに役立つ。

この「PhotoGuard」技術は、主に画像にわずかな修正を加えることで、AIが画像の内容を認識するのを防ぐと報告されています。この技術は、AI による画像の変更を防ぐ 2 つのソリューションを提供します。1 つは、画像のピクセルを変更することでアルゴリズム モデルの画像理解能力を妨害する「エンコーダ」方式です。もう 1 つは、AI に画像 A が画像 B であると認識させて誤った画像を生成する「拡散」方式です。

しかし、IT Homeは調査を通じて、この技術の応用範囲は実際には限られていることを知りました。研究者は、PhotoGuard技術はクローラー対策のシナリオに適しており、技術自体にも一定の限界があると警告しています。攻撃者は、処理された画像を切り取ったり反転したりするだけで、この技術を解読できます。

研究者らは、AI詐欺を解決するには、技術に加え、モデル開発者、ソーシャルメディアプラットフォーム、関連部門が共同で取り組み、包括的な「AI詐欺対策」ソリューションを提供する必要があると述べた。