新型コロナウイルスはAIに影響を与えるか？人工知能は人間の介入なしには機能しない

この記事は公開アカウント「Reading Core Technique」（ID: AI_Discovery）から転載したものです。

COVID-19パンデミックの間、人工知能技術に基づくシステムはいくつかの問題を呈した。ウイルスは人工知能に感染するのでしょうか? もちろん、感染することはありません。影響を受けるのは人間です。人工知能も機械学習システムも、人間の介入なしにはうまく機能しません。

人工知能は私たちにとって遠い存在のように聞こえるかもしれませんが、実際には誰もが人生の中でそれを経験しています。 Netflix のカスタマイズされたおすすめから Spotify のパーソナライズされたプレイリスト、買い物リストやアプリを管理できる Alexa などの音声アシスタントまで。これらの例はすべて、統合された人工知能システムがどのように人間の生活に入り込んでいるかを示しています。

ビジネスの観点から見ると、多くの企業が人工知能と機械学習に多額の投資を行うでしょう。重要なビジネス プロセスの自動化、マルチチャネル サプライ チェーンの確立、チャットボットによる顧客対応チームの強化など、AI ベースのシステムは手作業とビジネス コストを大幅に削減し、より高い収益性を実現します。

あらゆるウイルスに耐性があるように見えるAIにも弱点があることが判明した。マサチューセッツ工科大学のウィル・ダグラス氏は先日、COVID-19の流行中、人工知能技術に基づくシステムのパフォーマンスが低かったと記事で指摘した。ウイルスは人工知能に直接影響を与えたのではなく、むしろ人間に影響を与えた。

在庫、顧客サポート、その他の機能の管理に機械学習アルゴリズムを定期的に使用すると、システムは十分にトレーニングされ、人間の介入なしに効率的に動作できるようになる可能性があります。しかし、この発言は部分的にしか正しくない。なぜなら、機械学習アルゴリズムは、流行によって出現した「新しい常態」に基づいて訓練されていないからだ。

パンデミックは、需要と供給のパターンや一般的な購入者の行動を含め、世界を完全に変えました。数日のうちに、トイレットペーパー、マスク、手指消毒剤がアマゾンの世界中で最も頻繁に検索される商品となり、一方で携帯電話の充電器やレゴなど長年人気があった商品の人気は大幅に低下した。

こうした劇的な変化は人工知能に影響を及ぼし、日常的な行動に基づいてトレーニングされた多くの機械学習モデルは、突然、多数のバイアスに直面し、適切に機能しなくなりました。

パンデミック前の注目すべきAIの失敗

過去数年間、人工知能アプリケーションの最適化は顕著に進んできました。しかし、何らかの理由で機械が正常に動作しなくなると、問題が発生します。たとえば、ガンを治すはずだったIBMの「Watson Oncology」は、とんでもない製品であることが判明しました。

この製品は、患者の状態を悪化させる可能性のある誤った治療推奨を行っていることが判明したため、製造中止となった。その後、ワトソンは実際の患者データではなく、いくつかの「人工的な癌症例」に基づいてトレーニングされたことが判明した。推奨事項も、書面によるガイドラインや証拠ではなく、少数のがん専門医の専門知識に基づく必要があります。

もう一つの例は、アマゾンの採用システムが白人男性を優遇していることだ。このモデルは、10年間にわたってAmazonに提出された履歴書に基づいてトレーニングされ、現在のエンジニアと比較されました。本質的に、トレーニングされたモデルは採用において男性に偏っています。事情に詳しい関係者によると、この制度では「女性」という単語を含む履歴書が不当に扱われ、女子大学２校の履歴書の評価が下げられたという。

現在の流行病に戻り、消毒剤を販売する会社を例にとると、自動在庫管理システム（予測アルゴリズムはユーザーの行動に基づいて生成される）に頼る小売業者が予測したパートナー企業は、流行中の実際の需要と一致しなくなり、深刻な需給不均衡の問題につながるでしょう。

実際、世界中のサプライチェーンが影響を受け、企業が新たな需要状況に直面している今、販売や経費の予算編成に使用されている AI モデルを再検討する時期に来ているのかもしれません。現在の経済・社会情勢により「ニューノーマル」が生まれており、かつて機械学習モデルに入力されたデータや仮定は適用できなくなるだけでなく、重大なエラーにつながる可能性もあります。

人工知能の成功には人間の介入が不可欠

機械学習システムの質は、それをトレーニングするために使用されたデータによって決まります。つまり、今日のブラックスワン イベントは、人工知能機械学習システムに組み込むトレーニング セットの再考を促しているということです。多くの専門家は、人工知能の訓練は単一の最悪のシナリオだけに基づくのではなく、1930年代の大恐慌、2007～2008年の金融危機、現在の伝染病など、人類の歴史における転換点も考慮する必要があると考えています。

人間による監督により、人工知能の欠点はほぼ克服できる。ここ数カ月、ソーシャルメディア上では伝染病に関する真実や偽りの噂が絶えず流れており、人々は健康についてより不安を感じるようになっている。多くの人は真実のニュースと偽のニュースを区別できず、それが現実世界に深刻な影響を及ぼす可能性があります。

誰もが知っているのは、Facebookのアルゴリズムがフェイクニュースを流して米国選挙に影響を与えていると非難することだけだ。実際には、人間の監視によってフェイクニュースの拡散を阻止できる。読者はニュースソースをクリックして真実と虚偽を区別し、フェイクニュースを暴露することで、その拡散を防ぐことができる。

現在、人間は人工知能に人間を模倣させようとしていますが、人間の監督なしに人工知能を独立して動作させることはできません。機械は結局のところ単なる機械であり、道徳的および社会的基準に縛られるものではありません。

最良の場合、AI はトレーニングに使用した優れたデータに基づいて優れたパフォーマンスを発揮しますが、最悪の場合、作成者の偏見、思考プロセス、倫理観を反映することもあります。これらの問題を克服するには、さまざまなデータセットを使用して人工知能をトレーニングし、手動検査を追加する必要があります。将来に向けての道のりはまだ長いです。