人工知能に関する6つの大きな懸念

2017年、人工知能は最高熱に達し、最高情報責任者、コンサルタント、学者らは、この技術によってビジネスやIT業務から顧客関係まであらゆるものが自動化されると述べている。しかし、2018年に入ると、人工知能の潜在的な脅威について報道するメディアが増え始めました。

しかし、バブソン大学で認知技術のクラスを教えるトーマス・ダベンポート教授は、「メディアには誇大宣伝があふれているが、ジャーナリストは否定的なことを語ることで誇大宣伝を増幅させようとしているだけだ」と語る。とはいえ、こうした懸念は目新しいものではなく、人種、性別、その他の要因に基づく偏見から、自動運転ドローンが致命的な結果をもたらす可能性まで多岐にわたる。

少し前に、MITテクノロジーレビューは「人工知能が人を殺した場合、誰が責任を負うのか？」という記事を掲載した。この記事は、「自動運転車が人をはねて殺した場合、どのような法律が適用されるべきか？」という疑問を提起した。記事が掲載されてからわずか1週間後、アリゾナ州でUberの自動運転車が女性をはねて殺すという事件が発生した。

そのため、AI 導入に関する懸念や落とし穴について詳しく説明し、このテクノロジーの使用テストを開始しようとしている CIO へのアドバイスも提供します。

人工知能に関する懸念:

1. 制御不能な失礼な行為

Microsoft の Tay チャットボット事件から学んだように、会話型メッセージング システムはばかばかしく、失礼で、さらには明らかに不快なものになることがあります。 CIO は、何をどのように使用するかについて細心の注意を払う必要があります。チャットボットからのイライラさせるような発言が一度でブランドのイメージを破壊してしまうのです。

2. 認識力の低さ

グーグルの人工知能科学者でスタンフォード大学の教授でもあるフェイフェイ・リー氏は、ニューヨーク・タイムズ紙のコラムで、人工知能は人間によって開発されたが、皮肉なことに、人間とは全く似ていないと述べた。人間の視覚認識は状況に大きく左右されるが、人工知能の画像認識能力は非常に狭いと彼女は述べた。これを実現するには、AI プログラマーは、その分野の学術的ルーツに戻ってドメインの専門家と協力し、人間と機械の認識のギャップを埋める必要があります。

3. ブラックボックス問題

多くの企業が AI を活用したいと考えていますが、金融サービスなどの業界の企業は、AI がどのように結論に達するのかという未解決の問題がまだ残っているため、注意が必要です。 「サンプルデータの偏りが融資の公平性に与える影響に企業が対処しなければ、より良い住宅ローン金利を提供できなくなる」とファニーメイの業務・技術責任者ブルース・リー氏は言う。「信用判断などの業務では、人工知能は多くの規制によって妨げられており、解決すべき問題が山積している。そのため、不適切な偏りが生じないように、私たちの業務の多くは徹底的にバックテストされなければならない」

AI ソフトウェアがどのようにパターンを検出し、結果を観察するかを人々が理解していなければ、機械をどの程度信頼できるかは不明です。 「状況、倫理、データ品質は、特に規制の厳しい業界ではAIの価値の信頼性に影響を与える重要な要素です」と、法律事務所フォックス・ロスチャイルドのテクノロジー部門共同代表ダン・ファリス氏は語る。「規制の厳しい業界でAIを導入すると、コンプライアンスの問題が生じる可能性が高い」と同氏は言う。

4. 民族的および社会経済的偏見

スタンフォード大学の博士課程の学生ティムニット・ゲブルさんは、Google ストリートビューの車の画像を使用して米国全土の町の人口統計を調べるプロジェクトに取り組んでいたとき、自分の研究における人種、性別、社会経済的偏見について懸念を抱くようになりました。ブルームバーグによると、この懸念がゲブル氏をマイクロソフトに入社させたきっかけであり、彼女はそこで人工知能における偏見の調査に取り組んでいる。

AI 仮想アシスタントでも偏見の影響を受けることがあります。仮想アシスタント技術 (Alexa、Siri、Cortana など) がすべて女性である理由を考えたことはありませんか? 顧客サービス ソフトウェア専門企業 LivePerson の CEO、Rob LoCascio 氏は CIO.com に次のように語っています。「これは、職場での女性に対する人間の期待に由来しています。多くの人は、女性は本質的に「ヘルパー」であり、「小言を言う」傾向があり、管理職の役割を担い、命令を受けるのが得意だと考えています...」

5. ハッカーはAIを使って致命的な攻撃を仕掛ける

ケンブリッジ大学、オックスフォード大学、イェール大学の技術・公共政策研究者25人が執筆した98ページの報告書によると、人工知能の急速な発展により、悪意のあるユーザーがすぐにその技術を悪用してハッキング攻撃を自動化したり、人間を模倣して偽情報を広めたり、市販のドローンを標的型兵器に改造したりするようになるだろうという。

「AIには多くの有益な応用があることは認識している」とオックスフォード大学人類の未来研究所の研究員マイルズ・ブランデージ氏はロイター通信に語った。「しかし、悪意ある使用という問題に関しては、大きなギャップがある」

6. 奴隷理論

テスラやスペースXで有名な起業家イーロン・マスク氏は、優れた知能と能力を持つ人工知能を作り出すことで、人間が自立した「飼い猫」のようになる危険性があると警告した。最近、イスラエルの歴史家ユヴァル・ノア・ハラリ氏も、自動化を中核とする人工知能の出現により「地球規模の無用階級」が生まれる可能性があると主張した。 そのような世界では、人間は機械ほど自分自身を理解していないため、民主主義が脅かされるでしょう。

7. IT計画は影響を受けない

それでも、楽観的になるのは正しいと考える人もいる。ダベンポート氏は、こうした懸念は大部分誇張されていると述べた。たとえば、通常の分析プロジェクトでは長い間バイアスが存在してきました。 「分析に携わったことのある人の中で、偏見は存在しないと言う人に会ったことはありません」。最近『AIの優位性：大企業がAIを活用するすべてのこと』という新著を完成させたダベンポート氏は、いくつかの大企業が非常に責任を持ってAIをテストしていると語った。

「多くの企業がすでにAIを実際に導入しており、こうした一連のITイニシアチブを止めるつもりはない」とダベンポート氏は付け加えた。「この技術はまだ未熟だが、賢明な企業はそれをよりうまく応用する方法を知っており、メディアからのさまざまな肯定的、否定的な見解に左右されないように努めている」

実際、IT リーダーたちはこの誇大宣伝にほとんど動じていないようで、ガートナーによると、CIO の 85% 以上が 2020 年までに購入、構築、アウトソーシングを通じて AI を試験導入することを計画しているという。