考えるべき5つのAIリスク

真の人工知能技術がまだ成熟していないため、人間が自律知能に対して想定するリスクは、高度な知能を持つロボットなど、より状況が想定しやすい「強い人工知能」に集中しています。IoT/AI時代の到来とともに、「弱い人工知能」はすでに人間の生活に浸透し、これらの自律思考機械が生み出す不確実性も人間社会に浸透し始めています。人工知能がもたらす可能性のあるあらゆる影響とそれがもたらすリスクを、早めに検証する必要があります。

[[215034]]

資源の極めて不均等な分配

人工知能は私たちの働き方を変え始めています。2016年の世界経済フォーラムは、人工知能と機械学習によって今後数年間で約700万の仕事が消え、200万の新しい仕事が生まれると予測しました。英国の物理学者スティーブン・ホーキング博士も、人工知能の台頭は中流階級に大きな打撃を与え、特定の仕事だけが残り、深刻な経済不均衡につながると考えています。これらの推論はすべて、人間の「既存の専門知識」が機械によって簡単かつ迅速に複製され、経済階層の構造調整と技術的失業を引き起こすと考えています。生産効率と利益は、高度な人工知能リソースを持つ少数のグループの手に集中します。その結果、貧富の差は極めて大きくなり、社会は不均等な資源分配のリスクに大きくさらされることになります。

情報独占

人間の思考は自分自身の経験の範囲を超えることはできませんが、機械でも同じことが言えます。データがなければ、最先端のコンピューティングハードウェアと計算方法を使用しても、人工知能は対象分野で機能することができません。今後、関連するソフトウェアとハ​​ードウェアの技術が整うと、「十分かつ有用な（大量かつラベル付けされた）データ」は人工知能産業がニッチを確立するための最も重要な鍵の1つになります。各分野のリーダーは、差別化を図るために大量のキーデータに障壁を築き、一般ユーザーがデータを取得するコストがますます高くなり、「賢者はさらに賢くなり、愚か者はさらに愚かになる」という情報独占のリスクが生じます。

将来プライバシーはなくなる

マッキンゼーは、2025年までにインターネットに接続される物体の種類が1兆種類に達すると予測しています。これは、モノのインターネットのトレンドにより、将来、私たちは情報収集者に囲まれるようになる可能性があることを意味します。人工知能技術のカバー下では、これらの情報収集者は独立して考え、センサーをオンにする必要なタイミングを判断する能力を持つ可能性があります。将来プライバシーがどの程度防止されるかに関わらず、人工知能とあらゆるもののインターネットの相乗効果により、プライバシー関連のリスクは最初から非常に高いレベルにまで押し上げられるでしょう。

人混みを避ける

インターネット時代の到来とともに、インターネットの仮想世界に依存して社会的な交流を満たす人々の数が大幅に増加しました。現実世界とは異なり、インターネットの仮想世界は親しみやすく、人々のコミュニケーションは想像力とチャンスに満ちており、インターネットの仮想人物はより勇敢で創造的になっているように見えますが、これは結局のところ現実世界ではなく、それに極度に依存しているグループと現実世界の間に大きなギャップを引き起こし、社会的疎外のリスクを引き起こします。将来、人工知能が登場すると、この仮想世界は拡張されます。さまざまな仮想現実と人工知能技術により、この仮想世界はより現実的になり、その結果、前述の依存関係のクラスターがさらに増加し​​、現実社会での人間関係の疎外がさらに増加し​​ます。

自律性がない

スマートテクノロジーの時代において、人間が下す決定はすべて自律的に行​​われるのでしょうか。フィルターバブル現象は、私たちに警告を与えているのかもしれません。人工知能は、私たちが日常生活でよく目にする情報や見たい情報を判断し、人々にとって有用と思われるコンテンツをフィルタリングできるまでに進化しました。ユーザーの好みに応えるという機械のアプローチは多くの時間を節約するのに役立ちますが、受け取る情報はますます均質化します。この現象は現在、検索エンジンやコミュニティ グループなどのインターネットで広く見られます。今後、AI 物体が普及すると、人間が単一の価値観（あるいは目標とする価値観）に過度に依存し、それに縛られるというこの現象は、さらにエスカレートし、さまざまな分野で人間が独立した思考を持たなくなる危険性をはらんでおり、これはある意味では人間の精神の絶滅の危機ともいえる。