AI による顔を変える動画が何百万人ものユーザーを獲得。たった 1 ステップで楽しさから恐怖感まで

今朝、私の友人の輪の中に、AI による顔の変形に関する短い動画が大量に現れました。これらの短編動画のほとんどは数多くのテレビドラマや映画からのもので、ユーザーは人工知能認識機能を使って自分の顔をテレビスターの顔に置き換えることができる。また、このAI顔変換ツールは「ZAO-Meet Face to Create Drama」というアプリであり、このソフトウェアのスローガンは「世界最高のドラマに出演するには、たった1枚の写真だけが必要です」ということもわかりました。

​​

なお、このソフトウェアを開発した長沙ディープフュージョンネットワークテクノロジー株式会社の法定代表者は、Momoの共同創設者でありゲーム事業部門の社長である雷小良氏である。

AIによる顔の変更は非常に簡単で、2段階認証のみが必要です

筆者も個人的にこのソフトウェアを体験しましたが、使用方法は多くの自撮りソフトウェアと同様です。ユーザーが携帯電話番号を使用して登録すると、システムから自撮り写真をアップロードするように求められます。 「ZAO-逢脸造戏」では自撮り写真の要件が非常に厳しく、正面から撮影したものでなければなりません。また、鮮明でない写真はシステムによって拒否されます。

「ZAO-逢脸造戏」では、写真をアップロードした後、ユーザーに肖像画の確認も要求します。ポートレート認証の手順も非常に簡単です。ユーザーは、カメラの前で、まばたき、頭を回す、口を開ける、頭を下げるという 3 つの指示動作を実行する必要があります。この検証の目的は、顔を交換する際にビデオ内の表情をよりインテリジェントに処理し、ユーザーが他の人の自撮り写真を使用してビデオを作成しないようにすることです。両方の検証に合格すると、ユーザーはこの「ポートレート」を使用して顔の変更を実行できます。

​​

「ZAO-顔合わせでドラマを作ろう」は、「ビッグバン・セオリー」や「武林外佳」などの定番コーナーや、「中華料理店」などの人気バラエティ番組など、豊富なビデオ素材やシーンをユーザーに提供します。このソフトウェアは、現代のほとんどの人々の嗜好をカバーできると言えます。

​​

動画の作成に加えて、ユーザーはソフトウェア内で独自の表情を作成したり、顔変更技術を使用して絵文字パッケージ内のキャラクターを自分自身に置き換えたりすることもできます。

​​

AIによる顔を変える技術はすでに海外で登場しているが、依然として議論を呼んでいる。

実は、「ZAO - 顔を合わせてドラマを作る」は今回新しい技術を使っているわけではなく、以前から海外でオープンソース化されているAI顔変え技術を使っています。 2017年、AIによる顔を変える技術が初めて海外の有名フォーラムRedditに登場し、「deepfakes」というIDがリアルな顔を変える動画を多数インターネットにアップロードした。

この動画は当時海外で大騒動を引き起こし、Redditフォーラムから「ディープフェイク」が直接禁止される事態に至った。しかし、禁止された後、「ディープフェイク」はすぐに顔を変える技術のコードを公開し、一般に公開しました。その後、人々はこの顔を変える技術を単に「ディープフェイク」と呼ぶようになりました。

「ディープフェイク」技術は主に、2014年に元Googleの人工知能エンジニアであるイアン・グッドフェロー氏が開発したGAN（生成的敵対的ネットワーク）と呼ばれるAIモデルから生まれたものだ。 「ZAO-Mean Face Drama」は、AIによる顔変更技術「ディープフェイク」の初の商用化の試みだそうです。

プライバシーの問題を過小評価してはいけません。楽しさと恐怖の間には紙一重の境界線しかありません。

今回の「ZAO-顔を見てドラマを作る-」では、顔を変える素材にさまざまな制限を課しているが、この技術を本当に高度に商業化したいのであれば、プライバシーの問題は回避できないものである。

「ディープフェイク」の登場以降、海外では著名人のなりすまし動画が多数登場している。これらのビデオの中には、真実か虚偽かを直接識別できるものもありますが、非常に誤解を招くものもあり、簡単に噂が広まる可能性があります。

したがって、AIによる顔を変える技術の商用化が国内企業にとって本当に選択肢となったとき、ユーザーのプライバシーをどのように保護し、顔を変える動画の面白さをどのように維持するかは、これらの企業が真剣に検討する必要があることだ。

現在、ユーザーが個人の顔情報をアップロードした後に変更することは困難です。そのため、ユーザーが重要な個人情報をAI顔変換技術の提供者に引き渡す際には、その情報のセキュリティを確保することが重要です。

しかし、新興産業であるため、これらの顔を変えるサービスの提供者は正式な個人情報保護対策を講じていません。保護対策が施されていても、これらのプラットフォームはハッキングの被害に遭う可能性が非常に高くなります。このような問題はほとんどの人にとって懸念すべきことです。結局のところ、個人のプライバシーはもはや些細な問題ではありません。

前述のように、個人のプライバシーに加え、公人のイメージとプライバシーも、この顔を変えるテクノロジーによって課題に直面しています。これらの著名人の画像が盗まれると、世論に否定的な影響が及ぶ可能性が非常に高くなります。特に、一部のプラットフォームでは、ユーザーがビデオ素材をアップロードすることも許可されており、これは公人のイメージに大きな影響を与えるでしょう。