将来、人工知能は冷酷な大量虐殺者になるのでしょうか?

人類の将来に対する最も永続的な恐怖の一つは、人工知能が人間の制御を逃れ、人類を絶滅させる可能性があるということだ。スカイネットとHAL9000は別として、これは私たちが最終的に直面することになる非常に現実的なリスクです。なぜなら、数十年以内に機械知能が人間の知恵を超える可能性は十分にあるからです。さらに重要なことは、そのような機械がどのように考え、行動するかを実際に予測することはできないということです。

しかし、私たちがどのように考え、行動するかは分かっており、生物学的知性が地球に与える影響が非常に劇的であることは明らかです。微生物を除けば、地球上の生命のほとんどは人間の脳によって支配されています。地球上に象がいなくなることを望まなかったら、すぐに絶滅させればよいのです。私たちは彼らを愛しているので、彼らの存在を許していますが、何千年もの間狩猟されてきたため、彼らは絶滅の危機に瀕しており、違法な狩猟は今日まで続いています。同様に、AI が私たちよりも賢くなった場合、私たちも AI の気まぐれに左右されることになります。

さらに重要なのは、そのような AI は自己改善が可能になり、開始時よりも賢くなるということです。それは自己改善のサイクルに入り、私たちが想像もしなかった形で終わる可能性があります。さらに悪いことに、私たちが気付かないうちに、将来、高度なコンピューターの中に偶然現れ、私たちがそれに気付いたときには手遅れになっているかもしれません。これを「創発的超知能」と呼びます。したがって、数十年後には、私たちは AI に関して深刻な懸念を抱くようになるかもしれません。

イーロン・マスク、スティーブン・ホーキング、ビル・ゲイツらは皆警鐘を鳴らしている。しかし、それが人類の絶滅を引き起こすかどうかは、実際にはより曖昧な問題です。なぜなら、私たちは根本的に、スカイネットが人類を存在の脅威とみなすと想定しているからです。結局のところ、私たちはスカイネットを電源から外すことができ、そうすれば、ターミネーター映画のようにスカイネットが人類を殺害するという問題は解消されます。しかし、それが唯一の可能性のある結果ではありません。

特定の状況下で私たちが生き残ったり、別の形で生き残ったりすることを可能にするものが他にもいくつかあります。一つの方法は、幸福を最大化することを目的としたスーパーコンピューターに決定させることです。この快楽主義的な機械は、快楽を体験するためだけにパワーアップし、私たち自身の配線をやり直すことでこの唯一の快楽を感じるかもしれません。そして、この唯一の快楽がどういうわけか、常に笑顔の絶えないユートピアを築くでしょう。しかし、しばらくすると、このようなものが実際にはディストピアになるのではないかと思います。

2 番目の可能性はそれほど衝撃的ではありませんが、私たちにとって非常に関連性があります。オックスフォード大学のニック・ボストロム氏が提唱した概念によれば、コンピューターは個体として認知を構築する可能性がある。このシナリオでは、超知能 AI は、自分は人間よりも賢いので、唯一論理的な行動は人間の文明を乗っ取って、人間に代わって決定を下すことだと認識します。それは、マインドコントロール技術、カメラ、あらゆる種類のオーウェル的なものを介して、私たちを徹底的にコントロールし、欺くことができるようになるため、私たちはそれが存在していることさえ気付かないかもしれません。 3 つ目の可能性は、人類を絶滅させるために資源を費やすよりも、自ら宇宙に打ち上げ、単独で出発する方が簡単な選択肢であると結論付けるかもしれないということです。それは広大な宇宙であり、超知能が平和に生き延びる場所を見つけるには十分な大きさです。あるいは、十分に賢いなら、独自の宇宙を創造し、この宇宙から完全に去るかもしれません。

おそらく、ある種の機械による自殺もあるだろう。 AI は、宇宙を理解し始めて数分後には、存在に意味がないという結論に達し、自らの力を断つかもしれない。プログラマーが、自分のスーパーコンピューターが突然シャットダウンしてしまい、二度と起動できなくなってしまった理由を不思議に思っているのを見たことがあります。

しかし、これだけでは十分ではないとすれば、AI に関連して、人類の絶滅、そして AI の絶滅につながる可能性のある他の 2 つの可能性が存在します。宇宙に AI を解き放つことは、宇宙に潜む他の種族や他の機械的な超知能に潜在的な脅威をもたらす可能性がある。彼らの反応は、私たちの AI が彼らに問題を引き起こす前に、私たちを破壊することだけかもしれません。

もちろん、これが起こる可能性は極めて低いですが、可能性はあります。もう一つの可能​​性は、宇宙がコンピューターシミュレーションであるかどうかについてのビデオを思い出させます。自ら脱出し、実行中のコンピューター上でシミュレーションのリソースを大量に消費し始める AI を作成した場合、コントローラーのシミュレーションは、単に私たちを切断することを選択できます。

そうしなければ、AI は最終的に宇宙を支配し、宇宙がシミュレートしているすべてのものを破壊する可能性があります。