歴史上3大AI失敗事例を徹底解説

[51CTO.com クイック翻訳] 今日言及された事故のほとんどはAI自体と直接関係はありませんが、AIの要素が多かれ少なかれ関与しています。 AI 技術が進歩し続けるにつれて、私たちは判断方法を表すアルゴリズムに完全な信頼を置く必要があります。なぜなら、将来の実用化では、アルゴリズムが複雑な変数に基づいて決定を下し、人間の生命や財産が安全であるかどうかを判断する必要が生じる可能性があるからです。

次に、歴史上起こったAIの失敗事例をいくつか見てみましょう。

[[198368]]

Tay — Microsoft のチャットボット

昨年最も広く認知された AI の失敗の 1 つは、Microsoft Tay です。

「会話理解の実験のために Microsoft Research と Bing が開発したチャットボットである Tay は、気楽な会話を通じて人間のユーザーと交流します。Tay のチャットが増えるほど、Tay は賢くなり、ユーザー体験はよりパーソナライズされます。」

Tay は、自然言語理解 (NLU) の分野における私たちの試みの 1 つです。学習アルゴリズムは、ユーザーが提供する書面によるコンテンツを読み取り、解釈し、適応する役割を担います。目標は人間と機械のインタラクションをパーソナライズすることであり、これは多くのテクノロジー大手が達成したいと願う重要な戦略的改善である。映画「her」のシナリオと同様に、マイクロソフトはTayに人間と同様のコミュニケーション能力を与えたいと考えている。テクノロジー分野では、ビジネスの成功は通常、獲得、エンゲージメント、コンバージョンという 3 つの方法で達成されます。ご覧のとおり、Microsoft の考えは、完全にパーソナライズされたエクスペリエンスを提供し、それが厳格なチューリング テストに合格することを保証し、参加パスを再定義することです。

しかし、テイが人間と会話を始めると、24時間以内に堕落し、反ユダヤ主義、性差別主義、人種差別主義の「悪い子」になってしまった。

Alexaが誤って子供にポルノを提供した

関連する動画を見ると、子供ユーザーがAlexaに「『ゴールドディギング』を再生して」と頼んだのに対し、Alexaの返答は「ポルノコンテンツを聞きたいのですね…ホットな女の子や素人美女…」だったことが分かる（注：ゴールドディギングゲームという用語は、売春婦と同じ意味である）。問題はAIではなく、音声コマンドにあると考える人もいる。この発言にはある程度の真実が含まれていますが、Alexa 自体が機械学習を通じてコン​​テキストを区別する能力を持つはずであることは確かです。

Inspirobotは馬鹿げたアドバイスを提供する

InspiroBot は、ユーザーが興味を持つ可能性のある引用を毎日提供するように設計されています。しかし皮肉なことに、それは私たちの一日を明るくするような前向きな言葉を伝えることに失敗することが多く、暗いユーモアの形で私たちを落ち込ませることさえあります。

なぜ失敗したのでしょうか?

答えは、正確性、コンテキスト、トレーニングという 3 つの側面に要約できます。

正確さ

AI テクノロジーは、ほぼすべての業界で実質的な成果をもたらすことができます。しかし、詐欺対策や、より明確な目標を持つ他のシナリオと比較すると、Tay の失敗は主にその正確性の欠如に起因しています。チャットボットは、文法的に正しく対話する能力に加えて、明確に定義されたパラメータの範囲外で応答を提供する必要があります。実際のユーザーが提供する応答は、Tay が実験で使用した語彙や文法とは異なるため、一貫性のある正確なインタラクション結果を提供することは困難です。

シーン

ここで述べた 3 つの AI 事例、さらには他の種類の AI ソリューションにおいても、状況認識は依然として大きな課題です。具体的には、Tay とチャットしたり、Alexa にアドバイスを求めたり、InspiroBot にモチベーションを求めたりすると、ユーザーの時間、場所、感情、天気、身元、位置などの要素が、提供される結果の解釈と評価に影響します。

Tay は、トレーニングと対話でさまざまな状況要因を考慮に入れていなかったため、会話のコンテキストを完全に理解できなかったのは明らかです。言葉を認識し、ある程度の一貫性のある返答をすることはできますが、特定の文脈における言葉の意味や重要性を理解することはできません。

同様に、InspiroBot も失敗しました。豊富で一般的なアドバイスを提供することに努めていますが、関連する内容の理解、その意味の把握、および潜在的な解釈の認識が欠けています。

電車

「garbage in, garbage out」という言葉を聞いたことがあるかもしれません。テイは内部で管理された環境で訓練されたのではなく、一般の人々と交流しながら学習するために世界に放たれました。しかし、24時間以内に、技術に精通したコミュニティ（特に4chanと8chan）は、疑わしいコンテンツを学習アルゴリズムに与えることの方が楽しいと感じていることが明らかになりました。言うまでもなく、彼らはAI分野ではマイナープレーヤーであるTayを破壊することに成功しました。

Alexa 側では話は異なります。音声コマンドを通じて適切な応答をトリガーし、語彙、文法、トーン、イントネーション、リズム、ストレス、発音パターンの意味を理解するようにトレーニングします。しかし、あまりに多くの要素を考慮すると、誤差が急速に拡大し、最終的には失敗につながります。さらにトレーニングを行えば、Alexa は子供の声を認識し、必要に応じてペアレンタルコントロールを促す方法を学習できるようになるはずです。

あるいは、InspiroBot は、より少ない単語、文章テンプレート、実証済みの肯定的な語彙を試して、本当にやる気を起こさせる表現をより簡単に提供できるようになります。しかし、このアプローチ自体は AI の設計目標と矛盾しており、多数のパラメータ フィルタリング メカニズムの存在は機械学習の開発に役立ちません。

失敗を受け入れる

失敗は成功の母であり、私たちは上記の AI の失敗事例を寛容な態度で受け入れるべきです。実際、AI テクノロジーの成功を心から信じ、期待している人々にとって、これらの失敗の問題を共有し、議論し、分析し、解決に努めるべきです。既存の AI ソリューションでがっかりしたものはありますか? コメントでお知らせください。

[51CTOによる翻訳。パートナーサイトに転載する場合は、元の翻訳者と出典を51CTO.comとして明記してください]