人工知能：テクノロジーは無邪気、善と悪は人間の心の中にある

[[338194]]

テクノロジーは常に諸刃の剣です。人類の文明の進歩を促進する一方で、時には人類に災難をもたらすこともあります。人工知能についても同じことが言えます。人工知能技術は善良な人々によって制御されれば、すべての人々に利益をもたらします。悪人によって制御されると、終わりのない災害を引き起こす可能性があります。 2つの例を見てみましょう。

1. 人工知能が悪用される事例：ディープフェイク合成音声が詐欺に利用される

最近、アメリカのテクノロジーメディアの報道によると、オンライン詐欺師がディープフェイク技術を使って企業幹部の声を真似し、合成音声のメールを会社の従業員に送り、大企業に対して経済詐欺を働いているという。脅迫者は最近、ある会社の従業員にメールでCEOの声を真似したディープフェイク音声を送り、緊急のビジネス取引を完了するためにすぐに協力するよう求めた。しかし、ありがたいことに詐欺は成功しませんでした。従業員はボイスメールを受け取った後、不審に思い、会社の法務部に報告したが、ディープフェイク詐欺の事例はこれまでにも数多くあった。

たとえば、2019 年 9 月、犯罪者は音声複製ソフトウェアを使用して、英国のエネルギー会社の幹部の声を模倣しました。同社の専務取締役は詐欺電話に出た後、ためらうことなく24万ドルを海外の口座に送金した。サイバーセキュリティ企業シマンテックは先日、ディープフェイク音声詐欺の事例を3件報告した。犯罪者は電話会議やソーシャルメディア上のTEDスピーチを通じて企業幹部の音声を入手し、機械学習技術を使って幹部の声を再現し、財務部門に電話して緊急送金を要求した。

しかし、よりリアルな音声を作成するために、ディープフェイク音声の作成者は通常、上級指導者のスピーチなど、バックグラウンドノイズがほとんどない高品質の音声をキャプチャーすること、折り返しの電話を必要とせずに音声を送信することなど、以下の要素を克服する必要があります。会話は簡単に明らかになるため、通常はメッセージを残して、音声受信者とのリアルタイムのコミュニケーションを避けます。おそらく、考えていない人は、指導者の声を聞くと緊張し、上記のケースのようにお金を払ってしまうだけでしょう。さらに恐ろしいのは、今後ディープフェイクの音声や動画の合成がさらに成熟すれば、詐欺師の成功率が大幅に高まる可能性があるので、油断できないということだ。どうすればもっと警戒を強めることができるでしょうか? 結局のところ、私たちは依然としてテクノロジーの力に頼らなければならないかもしれません。

2. AIの善用例: フォークスは写真に「見えない外套」をかけて顔認識システムを機能不全にする

誰もが知っているように、ソーシャル メディア プラットフォームは個人のプライバシーを漏らす可能性があります。顔認識技術は多くの情報を取得できるため、自撮り写真に含まれる情報が私たち自身を「裏切る」こともあります。つまり、写真データさえ入手できれば、顔認識技術によって機密性の高い個人情報を簡単に入手できてしまうのです。以前、米国の顔認識会社が約30億枚の顔画像を含む大規模なデータベースを作成しましたが、これらのデータはFacebook、YouTube、さらには国内のWeiboから収集されました。これらのユビキタスな顔認識技術は、私たちのプライバシーにかなりの脅威をもたらします。

シカゴ大学のチームが、写真に透明マントを追加できる新しいソリューションを提案しました。彼らが発表したソフトウェアが Fawkes です。このソフトウェアは、Megvii、Microsoft、Amazonなどの企業の顔認識アルゴリズムを失敗させました。このソフトウェアの開発者は北京出身の23歳の若者です。通常の電子写真は、Fawkes によってわずかに処理されると、あらゆる顔認識アルゴリズムをブロックできます。しかし、人間の目は細部をほとんど認識できないため、Fawkes ソフトウェアは顔画像にピクセルレベルの微妙な修正を加え、肉眼では認識できないようにします。ただし、AI 画像認識アルゴリズムはそれをはっきりと見ることができますが、その認識結果は非常に歪んでおり、画像を完全に別の人物として認識します。将来的には、フォークスによって迅速に処理された写真は、他のアルゴリズム企業に捕捉されて違法に使用されることを心配することなく、元の外観を変えることなく主要なソーシャルメディアプラットフォームで自由に共有できるようになります。これは人工知能技術を利用して個人のプライバシーを保護する成功した試みです。

研究チームは、Fawkesが広く導入され、個人のプライバシー漏洩のリスクを軽減するために使用されることを期待していると述べた。現在、ユーザーはプロジェクトの公式ウェブサイトでFawkesを無料で使用できます。技術論文は現在オンラインで公開されています (論文アドレス: https://www.shawnshan.com/files/publication/fawkes.pdf)。同時に、研究チームはソフトウェアのWindows版とMac版を開発しており、ソーシャルメディア企業が自社のプラットフォームにソフトウェアを直接導入することを期待している。しかし、以前ネット上に流出した写真を修正する機会がないかもしれないというのは少し残念です。

3. 人工知能の応用に関する考察

① 人類は一方では人工知能技術を利用して仕事や生活に利便性と効率性をもたらしているが、他方では人工知能技術がもたらす悪影響と絶えず闘っている。

②人工知能技術の進歩はすでに人間の感覚の感度に挑戦しています。あなたが見ているものは真実ではないかもしれませんし、音は信頼できないかもしれませんし、あなたが見ている顔の写真でさえAI顔変換技術を使って加工されているかもしれません。長期的には、人々は人工知能に対して憤りと恐怖を抱くようになるでしょう。

③ 人工知能技術の発展によってもたらされる様々な恩恵を享受する一方で、人工知能から生じる倫理的問題がますます顕著になり、社会全体の注目を集めるようになっています。人間の本質は不完全です。これらの人工知能技術が犯罪者に利用されれば、社会にとって大惨事となるでしょう。人工知能がもたらす倫理的問題をいかに回避するかは、人工知能の発展において避けることのできない重要な課題となっている。

人工知能には善と悪の区別はありません。重要なのは、それを制御する人がどのようにそれを使用するかです。覚えておいてください：人工知能技術は罪深いものではありませんが、正しく使用してください。テクノロジーに罪はない。善と悪への道は人の心の中にある。