有名人の「ペイント肌」顔変更技術を悪用したいたずら合成AI動画の調査

新華社、上海、5月13日。AI技術の発展により、動画の顔を変える技術的ハードルが下がり、一般人も顔を変える動画を作れるようになった。記者の調査により、この技術は偽の動画を合成するために使用されていたことが判明し、その悪影響も社会の懸念と懸念を引き起こしている。もし、この技術が野放しにされ、「疎外」されれば、他人の正当な権利と利益を侵害し、社会の公共の安全を危険にさらすツールになる可能性がある。

「あなたが望む外見はすべて私が持っています」、AI「ペイントスキン」はたった2.5元

「あなたが望むすべてのルックスを持っています」「男性が違和感なく一瞬で女性に変身」「WeChat Momentsのビデオを使用して顔を変えることができます」...最近、多くのプラットフォームでAI顔変更ビデオが人気になっています。記者はビリビリのウェブサイトで「変顔」を検索し、何千もの動画を発見した。

その中には、映画やテレビドラマの俳優の顔を入れ替えたり、特定のプラットフォームの女性キャスターの顔を別の女性スターの顔に一瞬で「変更」したり、海外のテレビ番組のゲストの顔を国内の著名人の顔に置き換えて「中国人が海外でインタビューを受けた」というタイトルの「フェイクニュース」を作ったりする人もいた...

動画内の人物の顔が入れ替わった後、本物とほとんど区別がつかなくなった。一部のネットユーザーからは「AIが描いた肌だ」「写真が必ずしも真実を表わすとは限らない」「よく考えると恐ろしい」などのコメントが寄せられた。

「ディープフェイク」フォーラムには、AIによる顔の加工に関連する投稿が9,000件以上ある。有名人の顔を変えるビデオの販売情報が多数あります。 「Synthetic Alliance」という名のユーザーが、グループ内で顔を入れ替えた動画を公然と販売していた。リストには150本以上の動画が含まれており、「すべて58元という格安価格」だと彼は語った。 「セレブフォーラム」というフォーラムに、誰かが顔を変える動画のウェブサイトのURLを複数投稿した。

記者はタオバオで「AI変顔」や「ディープフェイク」を検索したところ、「CM宣伝動画」「有名アイドル交流動画」「いたずら動画」など、多くの変顔ソフト販売情報を発見し、「動きがリアルで鮮明」と主張した。顔を変えるビデオの制作サービスを提供する業者もある。タオバオID「プロカスタマイズ顔を変えるビデオ」を持つ販売者は、顧客に代わって顔を変えるビデオを制作できると述べ、3分以内のビデオの価格は300元である。

記者は中古取引プラットフォームで「fakeapp」という顔を変えるソフトを2.5元で購入した。説明書に従って、提供されたビデオ素材をインポートし、「抽出」と「合成」のキーを押すだけで、ほとんど痕跡を残さずにビデオ素材の顔を入れ替えることができた。

許可なく顔を変えることは「一時的な快楽」になるかもしれないし、違法な侵害につながるかもしれない

「AIによる顔面変更技術の原理は複雑ではありません。AIは複数のビデオから顔の特徴を自動的に抽出して分類し、コーディング技術を使用してビデオ内の特定の位置をエンコード、再構築、合成します。」と、長年映画やテレビの顔面変更ビジネスに携わってきた北京巨利次元科技有限公司の技術責任者、趙天奇氏は紹介した。

「過去には、関連する制作コストは1分あたり数十万元に達することもありました。一部のAI技術がオープンソース化されたことで、顔を変える制作費が大幅に下がっただけでなく、その敷居も下がり続けています」と彼は語った。

中国伝媒大学政法学院副学長の王思新氏は「現在、AI技術による他人の肖像や声の偽造は主にネット上の『いたずら』に利用されているが、その模倣効果は本物と偽物の区別がつかないほどの境界線に近づいている。技術の発展と短編動画の急速な普及が相まって、不適切に利用されれば強い悪影響を及ぼすだろう」と述べた。

最近、民法人格権編第2次草案では、いかなる団体や個人も、情報技術を利用した誹謗中傷、汚損、偽造などにより他人の肖像権を侵害してはならないと規定された。その他の人格権の認められた行使および自然人の発言権の保護については、関連規定に従うものとする。

北京大学法学院の薛軍副学長は「この法案が正式に可決されれば、法律で別途規定されている場合を除き、本人の同意を得ずに他人の肖像をAIによる顔の加工などに利用すれば、営利目的や主観的な悪意がなくても著作権侵害になる可能性がある」と述べた。

また、著作権侵害者はリスクを冒すべきではないとも注意を促した。たとえ顔を変えた後の顔が100％似ていなくても、顔を変えた動画と元の動画がある程度類似し、第三者が識別できる限り、著作権侵害とみなされる可能性がある。「動画内の人物の顔を他人の顔と入れ替えて流布した場合、わいせつ物流布罪に該当する可能性があり、相応の刑事責任を負わなければならない」

AIによる顔の改造は「諸刃の剣」であり、放置できない

「映画やテレビの制作業界では、AIによる変顔技術に対する一定の需要があります。映画の撮影が完了する前に亡くなった俳優もいますが、変顔技術の助けを借りて、彼らをスクリーン上で『復活』させることができます。」趙天奇氏は、AIによる変顔技術は俳優が立ち会わなくても撮影を実現できるため、撮影効率が向上し、コストを大幅に節約できると述べた。

しかし、関係専門家は、新技術は適切に使用されるべきであり、野放しにしたり「疎外」させて他人の正当な権利や利益を侵害し、社会の公共の安全を危険にさらす道具にしたりすべきではないと述べた。

——ユーザーは誠実な使用の原則を遵守する必要があります。テクノロジーは中立的ですが、その使用にはプラスの影響とマイナスの影響の両方があり、新しいテクノロジーの乱用は避ける必要があります。

「ユーザーはツールが合理的かつ合法的な目的で使用されるよう自制心を発揮する必要があり、法的常識や公共秩序、善良な慣習について最低限の認識を持つ必要がある」と薛軍氏は述べた。

——プラットフォームは「安全な避難場所」に隠れているだけではいけない。国内大手ショート動画アプリの関係者は記者に対し、顔入れ替え動画は審査が難しい場合が多いと語った。テロやポルノなど明らかに違法な動画は別として、一般的なパロディー動画は侵害の対象ではないため、プラットフォーム側は積極的に行動する意欲に欠けている。ユーザーからの報告があった場合にのみ対応可能です。

王思新氏は、プラットフォームは予防的処理メカニズムを改善し、違法な顔入れ替え動画の自動分析と編集を強化し、問題のある動画の配信を厳しく管理すべきだと考えている。「プラットフォームが動画が違法で規則に違反していることを知りながら対策を講じず、他者や社会に損害を与え続ける場合、プラットフォームも連帯責任を負わなければならない」

——監督は強硬に行う必要がある。王思新氏は、規制当局は違法で権利を侵害する動画に特別な注意を払い、監視し、社会的に悪影響を及ぼし、国家の安全と社会公共の利益を危険にさらす可能性のある顔入れ替え動画を厳しく監督し、違法で権利を侵害する行為を取り締まるべきだと提案した。