AI は「彼ら」による盗聴を防ぐことができますか?

次のような状況に遭遇したことがあるかもしれません:

携帯電話でアプリを開くと、最初に表示されるのは数分前に友人や家族と話していた内容です。初めての方は驚かれると思います。しかし、時間が経つと慣れてきて、もう驚かなくなります。

主な原因の 1 つは、今やあらゆる場所に存在し、常にあなたの声を「盗聴」しているマイクです。マイクは携帯電話、テレビ、時計などのデバイスに埋め込まれており、あなたの声をニューラル ネットワークや人工知能システムにリアルタイムで送信し、推奨システムがあなたのために「カスタマイズされた」プッシュ サービスを作成するのを助けています。

では、どうすればこのような事態を回避できるのでしょうか?インターネット上では、全く関係のない曲を流したり、音量を最大まで上げたり、積極的に騒音を出したり、例えば、長期間のマイクの使用許可を与えず、1回限りの許可を与えるアプローチを選択するなど、さまざまな方法があります。

現在、米国コロンビア大学の研究チームが新たな方法を提案している。同チームは、システムが生成した極めて小さな音を室内で再生するだけで、「盗聴」事件の発生を回避できる人工知能システムを開発したのだ。

言い換えれば、このシステムは人々の会話の音を偽装し、通常の会話に影響を与えることなく、マイクやその他の監視システムで聞こえないようにします。

「リアルタイムニューラル音声カモフラージュ」と題された関連研究論文が、プレプリントウェブサイトarXivに掲載されました。さらに研究者らは、この人工知能システムはコンピューターや携帯電話などのハードウェアに簡単に導入でき、常にプライバシーを保護できるとも述べています。

AIでAIに勝つ

人工知能によって利用される問題は、人工知能によって解決されるべきである。マイクのような妨害システムに関するチームの研究は人工知能の分野では理論的には可能だが、実用化に十分な速度を実現するのは依然として困難な課題だ。

問題は、ある特定の瞬間に人々の会話を聞くためにマイクを妨害しても、数秒後には会話が中断されない可能性があることです。人間が話すとき、異なる単語を異なる速度で話すため声は常に変化します。この変化により、機械が人間の速い話し方に追いつくことはほぼ不可能になります。

この研究では、AIアルゴリズムは人が次に何を言うかという特徴を予測することができ、適切なささやき声を生み出すのに十分な時間があった。

コロンビア大学のコンピューターサイエンス助教授カール・フォンドリック氏は、このアルゴリズムは不正なマイクが会話を盗聴するのを80％の効率でブロックすることができ、不正なマイクの位置などの情報を人々が知らない場合でも機能すると述べた。

これを実現するために、研究者たちは、ニューラル ネットワークをリアルタイムで混乱させることができ、音声が発せられている間も継続的に生成され、言語の語彙の大部分に機能するアルゴリズムを設計する必要がありました。これまでの研究では、上記の 3 つの要件を同時に満たす研究はありませんでした。

新しいアルゴリズムは、「予測攻撃」と呼ばれる信号を使用し、自動音声認識モデルが書き起こすように訓練されたあらゆる単語を妨害します。さらに、攻撃音が空中で放送されるときには、遠くにある不正な「盗聴」マイクを妨害できるほどの音量にする必要があります。攻撃音は音と同じ距離を移動する必要があります。

AI システムは、2 秒間の入力音声を条件として、信号または単語に対する将来の攻撃を予測することで、リアルタイムのパフォーマンスを実現します。

同時に、研究チームは攻撃の音量が通常のバックグラウンドノイズと同程度になるように最適化し、マイクなどのシステムによって監視されることなく、室内で人々が自然に会話できるようにした。

さらに、彼らは、自然な周囲雑音と複雑な形状を持つ実際の部屋でこのアプローチの有効性を実証することに成功しました。しかしフォンドリック氏は、現在のところこのシステムはほとんどの英語の単語にしか効果がなく、アルゴリズムをより多くの言語に適用しているとも述べた。

倫理的な AI のために私たちは何ができるでしょうか?

ビッグデータの時代では、私たちの個人情報は「裸の」状態にあり、私たちの周囲には個人のプライバシーを覗き見するスマートデバイスがますます増えていると言う人もいます。

この研究結果が将来、より多くの言語に適用され、より多くのシナリオに実装されれば、さまざまな形態の人工知能による悪用を回避するのに役立つかもしれません。ペンシルバニア大学コンピューター情報科学部の教授であるJianbo Shi氏は次のようにコメントしています。「彼らは新たな疑問を提起しています。無意識の人工知能に利用されることから私たちを守るために、人工知能をどのように活用できるのでしょうか？」

同時に、Shi氏は、今後の研究では、研究者は初期の設計段階から人工知能が人間と社会に与える影響について「意識的に」考える必要があり、倫理的なAIが私たちに何ができるかではなく、倫理的なAIのために私たちが何ができるかを問うべきだとも示唆した。私たちがこの方向性を信じれば、倫理的な AI の研究は興味深く、創造性に満ちたものになるでしょう。​