テクノロジー大手はAIの研究開発に数十億ドルを費やしているが、かつて人間に勝ったAIが売却されようとしているという自慢が疑問視されている

グーグルやフェイスブックなどのテクノロジー大手は長年にわたり、人工知能（AI）に数十億ドルを投資し、その可能性を宣伝してきた。しかし今、研究者たちは AI に対する期待を再設定する時期が来たと述べている。

最近、AI技術開発が飛躍的に進歩したのは事実です。企業は、人間のような会話や詩、画像を生成できる AI システムをさらに開発しています。しかし、AI倫理学者や研究者は、一部の企業がAIの能力を誇張しており、その誇大宣伝によって誤解が広がり、AIの力と信頼性のなさに関する政策立案者の見解が歪められていると警告している。

「我々はバランスを失ってしまった」とシアトルの非営利研究機関、アレン人工知能研究所のCEO、オーレン・エツィオーニ氏は語った。エツィオーニ氏と他の研究者は、この不均衡が、Googleのエンジニアによる同社のAIは知覚力を持っているという主張に多くの人が心を動かされる理由を説明するのに役立つと述べている。

Googleのエンジニア、ブレイク・ルモワン氏は、自身の宗教的信念に基づき、同社のAIシステムの1つが知覚力を持つとみなすべきだと提案した。彼は、AIチャットボットは事実上人間となり、それに対して実験を行うことを許可するかどうかを決定する権限を持つようになったと主張した。 Google はその後、彼をアカウント停止にし、彼の主張を却下した。グーグルは、同社の倫理学者と技術専門家がその可能性を調査し、彼の主張を否定したと述べた。

ルモワン氏はAIは知覚力を持っていると主張する

研究者らによると、科学界全体では、AIが意識を持ちつつある、あるいは意識を持つ可能性があるという考えは依然として異端である。

実際には、AI がカバーするテクノロジーの範囲は、ユーザーへの広告、コンテンツ、製品の推奨をより適切に提供するためにユーザーからのデータを処理するなど、一連の日常的なバックエンドのロジスティクス作業に依然として大きく役立っています。

積極的な投資と宣伝

過去10年間、Google、Facebookの親会社Meta、Amazonなどの企業は、成長と利益の原動力となるこうした機能の向上に多額の投資を行ってきた。たとえば、Google は AI を使用して複雑な検索プロンプトをより適切に解析し、関連性の高い広告や Web 検索結果を提供しています。

スタートアップの中には、さらに壮大な野望を持つ企業もあります。そうした企業の一つであるOpenAIは、いわゆる汎用AI、つまり人間の知能のあらゆる側面に匹敵するかそれを上回るシステムを実現するために、テスラのCEOであるイーロン・マスク氏やマイクロソフト社を含む寄付者や投資家から数十億ドルを調達した。一部の研究者は、これは不可能ではないにしても、数十年先のことだと考えています。

これらの企業同士が互いに競い合うことで、AI は急速に進歩し、注目を集めるデモンストレーションも増えています。これらのデモンストレーションは人々の想像力をかき立て、技術に注目を集めました。

OpenAIのDALL-Eシステムは、「土星の周りを周回するマクドナルド」や「トライアスロンに参加するスポーツウェアを着たクマ」など、ユーザーのプロンプトに基づいてアート作品を生成でき、ここ数週間ソーシャルメディア上で数多くのミームを生み出している。その後、Google は DALL-E システムに倣い、独自のテキストベースのアート生成システムを立ち上げました。

これらの結果は印象的であるが、企業が広告を適切に管理していないと警告する専門家が増えている。

グーグルの倫理的AIチームの共同リーダーだったマーガレット・ミッチェル氏は、グーグルのシステムについて批判的な論文を書いた後、解雇された。彼女は、グーグルの株主に対するセールスポイントの一つは、同社がAI分野で世界最高だということだと語った。

AIの限界

現在、AIスタートアップ企業「ハギング・フェイス」で働くミッチェル氏と、グーグルのAI倫理担当共同責任者であるティムニット・ゲブル氏は、AIの危険性を最初に警告した人物の一人だ。ゲブル氏もグーグルから解雇された。

彼らが Google 在籍中に書いた最終論文によると、これらのテクノロジーは人間のような能力を持っているため、人間と同じように失敗する可能性があり、時には危害を及ぼす可能性があると彼らは主張している。例えば、フェイスブックのAIシステムはアラビア語の「おはよう」というフレーズを英語では「彼らを傷つける」、ヘブライ語では「彼らを攻撃する」と誤訳し、イスラエル警察は間違いに気づく前に挨拶​​を投稿したパレスチナ人男性を逮捕した。

昨年公開されたフェイスブックの内部文書では、フェイスブックのAIシステムが必ずしも一人称視点のシューティング動画や人種差別的発言を識別できるわけではなく、同社の規則に違反するコンテンツのごく一部しか削除していなかったことも明らかになった。フェイスブックは、AI技術の向上によりヘイトスピーチや同社の規則に違反するその他のコンテンツが大幅に減少したと述べた。

理想と現実のギャップ

理想は満ち溢れているが、現実は乏しい。エツィオーニ氏らはIBMのワトソンシステムに関するマーケティングを指摘した。 Watson は IBM が開発した AI システムで、クイズ番組「Jeopardy!」で人間に勝利したことで有名になりました。しかし、10年の歳月と数十億ドルの投資を経て、IBMは昨年、医師のがん診断と治療を支援することを主力製品とするワトソン・ヘルス事業の売却の可能性を検討していると発表した。

AI は現在ではいたるところに存在し、電子メール、検索エンジン、ニュース フィード、音声アシスタントなど、私たちのデジタル生活に浸透しているソフトウェアの開発に携わる企業が増えているため、その重要性はさらに高まっています。

グーグルの広報担当者ブライアン・ガブリエル氏は、知覚能力があるという主張を否定し、同社のチャットボットやその他の会話ツールは「どんな架空の話題でも即興で対応できる」と述べた。 「アイスクリームの恐竜にどんな見た目か尋ねると、溶けたり、うなり声を上げたりといったテキストを生成することができますが、これは知覚とは異なります」と彼は語った。

AIに対する認識のギャップが政府の政策に浸透

ブラウン大学でコンピューターサイエンスの博士課程に在籍し、AI政策を研究しているエリザベス・クマール氏は、この認識のギャップが政策文書にまで浸透していると述べた。

最近の地方、連邦、および国際的な法令や規制提案は、AI システムが高度な能力を持っているという前提に基づいて、差別、操作、またはその他の手段を通じて AI システムが危害を加える可能性に対処しようとしてきました。クマール氏は、こうしたAIシステムは「単純に機能しない」可能性があり、危害を及ぼす可能性があるという大きな可能性を彼らはほとんど無視していたと述べた。

エツィオーニ氏はバイデン政権のAI研究資源に関する国家タスクフォースのメンバーでもある。彼は、政策立案者はこれらの問題を把握するのが難しいことが多いと指摘した。 「彼らの何人かと話をしたところ、彼らは善意で良い質問をしているが、すべてを知っているわけではないことが分かった」と彼は語った。