マスク氏：プログラマーの62％が人工知能が武器化されると考えている

常に人工知能の脅威論を支持してきたシリコンバレーの「鉄人」マスク氏は、今回、プログラマーたちの間で支持を得た。現地時間9月13日、マスク氏は自身のツイッターアカウントで「ハッカーはすでに人工知能を武器化し始めている」と題する記事をリツイートした。

[[203618]]

イーロン・マスク。 ビジュアル中国データマップ

この記事の冒頭で、昨年の実験について触れました。当時、セキュリティ企業ZeroFOXのデータサイエンティスト2人が、Twitterユーザーに悪意のあるリンクをクリックさせる可能性が人間と人工知能のどちらが高いかを調べる実験を行った。そこで研究者たちは人工知能を使ってソーシャルネットワークユーザーの行動を研究し、独自のフィッシング詐欺を設計して実装した。テスト結果から判断すると、人工知能プログラムは人間よりはるかに優れています。

SNAP_Rと名付けられたこの人工知能は、1分間に6.75件のツイートの割合で800人以上のユーザーに悪質なリンクを送信し、最終的に275人のユーザーを騙すことに成功しました。対照的に、実験の参加者は 1 分間に 1.075 件のツイートしか投稿できず、最終的に 129 回の試行で 49 人のユーザーを獲得しました。

幸いなことに、これは単なる実験でしたが、ハッカーがすでに人工知能を悪意のある目的で使用できることを示しています。実際、彼らはすでにそれを使用している可能性がありますが、証明するのが難しいだけです。

人工知能がもたらす脅威についてのマスク氏の懸念は、プログラマーチームの間でも確認されている。 7月に開催されたブラックハットカンファレンスでは、数百人の一流サイバーセキュリティ専門家がラスベガスに集まり、人工知能や新技術がもたらすリスクについて議論した。ある調査では、ハッカーが今後1年間で人工知能を使って攻撃を実行するかどうかを尋ねたところ、回答者の62%が肯定的に答えた。

サイランス・セキュリティ・データの科学者ブライアン・ウォレス氏は、記事の中で次のように指摘している。「ハッカーは人工知能を武器として利用している。これは非常に現実的だ。なぜならハッカーは規模の問題を解決する必要があるからだ。彼らは、自分自身へのリスクを最小限に抑えながら、できるだけ多くのターゲットを攻撃しようとする。人工知能と機械学習は、彼らが最終的に使用する完璧なツールだ。これらのツールは、誰を攻撃するか、誰を攻撃するか、いつ攻撃するかなどを決定することができる。」

この結果はマスク氏が懸念していたことと一致する。 9月初旬、マスク氏はツイッターで「戦争は国家指導者ではなく人工知能によって始められるかもしれない。先制攻撃が最も効果的な勝利の方法だと人工知能が信じている限りは」と発言した。

さらに先月、マスク氏は人工知能業界の何百人もの幹部とともに国連に助言し、殺傷力のある自律型兵器の開発を禁止し、ハイテク軍拡競争を防ぐよう訴えた。

マスク氏、グーグル・ディープマインド創業者のムスタファ・スレイマン氏、デンマークのユニバーサル・ロボティクス創業者など計116人が公開書簡に署名し、国連に対し、自律型致死兵器、いわゆる「キラーロボット」がもたらす課題を明らかにし、世界中でそのような兵器の使用を禁止するよう求めた。