AI はあなたの仕事を奪うだけでなく、もっと恐ろしい脅威をもたらす可能性があります...

ビッグデータ時代の到来は、ビッグデータの波だけでなく、人工知能の台頭ももたらします。グーグルの人工知能プログラム「アルファ碁」が中国と韓国のトップチェスプレイヤーを破った後、世界で初めて「市民権」を与えられたロボット「ソフィア」が「人類を滅ぼす」と脅した。その後、バク転ができるロボット「アトラス」や、「首切り」ミッションを実行できる超小型ドローンが登場した。

ビッグデータと人工知能が急速に発展している今日の時代、人々が言うように、データ時代の人々は常に「裸で走っている」、そして誰もが本に記録されていますが、これはほんの始まりに過ぎません。ビッグデータはデータの収集と分析のみを担当し、実際の武器は人工知能です。

多くの専門家が予測しているように、戦争ロボットは核兵器に続いて人類の頭上にぶら下がるもう一つの「ダモクレスの剣」となるかもしれない。このことは人々に深く考えさせました。人工知能は「飼いならされて」人類の友となるのでしょうか？それとも「反逆」して人類に終わりのない災害をもたらすのでしょうか？

人工知能は、モノのインターネット、ビッグデータ、高度なアルゴリズム、強力なコンピューティングパワーに支えられた「グループテクノロジー」として、「モノ」に人間の知能を与え、人間の知恵をシミュレートして拡張し、さまざまな機能を実現し、認知、分析、意思決定、行動などの活動を実行する際に人間を支援し、場合によっては人間に取って代わります。その主な利点は高度な自律性であり、これにより、人間の介入をほとんどまたはまったく必要とせずに、複雑で困難かつ非常に正確なタスクを完了できます。

人工知能は人類に大きな脅威をもたらす

高度な自律性を獲得し、「制御を失う」可能性があります。将来、超人工知能は自律的に考える意識を持ち始め、人間のように独立して考え、どのように行動するかを自分で決めることができるようになります。

この高度にインテリジェントなシステムは、学習を通じて機械を再設計することも可能であり、他の新しい人工知能エンティティを迅速に複製または再生成できます。専門家の計算によると、制御を失った自己複製ナノロボットは、わずか3時間半で130回の複製サイクルを完了することができます。ナノロボットの外向きの移動や拡張などの要素を考慮すると、地球上のすべての生物を「破壊」するには、最大で数週間しかかかりません。

不法侵入に遭遇した場合、「ブラック化」される可能性があります。新興技術分野である人工知能がセキュリティ上の脆弱性から完全に解放されることは、一般的には不可能です。誰かがこの脆弱性を悪用してインテリジェント システムやロボットを制御し、破壊的な活動を実行した場合、その結果は極めて恐ろしいものとなるでしょう。

機械戦争の勃発は武力の「乱用」につながる。将来、戦場では大量のインテリジェント無人システムが使用され、「犠牲者」は主に生命を持たず大量複製可能な「インテリジェントマシン」となり、戦争のコストを大幅に削減し、戦闘員の「死傷者ゼロ」を達成することになるだろう。

事前に予防策を講じ、人工知能を「しっかりと監視」するにはどうすればいいのでしょうか?

技術セキュリティの観点から共通に遵守される開発ガイドラインを確立する。

人工知能の予測可能なリスクに基づいて、人工知能の安全で制御可能な開発を確保するために、研究の範囲、内容、目的、使用など、すべての側面を規制するグローバルな人工知能開発ガイドラインが確立されます。

道徳的・倫理的観点から科学的かつ厳密な評価メカニズムを確立する。

人工知能は主にアルゴリズムに基づいていますが、アルゴリズムは本質的に「数学的またはコンピューターコードで表現された意見」です。これらは設計者と開発者の主観的な創造物です。アルゴリズムシステムに独自の偏見や価値観を埋め込み、社会倫理規範に適合しないインテリジェントマシンを作成する可能性があります。これには、安全性を確保するための厳格な評価が必要です。

規範的適用の観点から法的拘束力を持つ普遍的な制度的条約を確立する。

高度なテクノロジーが脅威となるかどうかは、主にその目的とユーザーの使用方法によって決まります。