人工知能は目覚めたのか？アマゾンのAIは人間の命令を聞かず不気味な笑い声を上げる

人類が人工知能の開発に熱心に取り組み始めて以来、著名な科学者ホーキング博士をはじめ、疑問や反対の声が数多く上がっています。もちろん、率直に言って、誰もが最も懸念しているのは、「人工知能が強力になりすぎて、ある日人間に取って代わってしまったらどうなるのか」という問題です。

しかし、最近、海外の科学者チームが新たな研究結果を発表し、ビッグデータ分析を通じて、人工知能が人間に取って代わることはないと考えていると述べた。しかし、その回答の中で「ほぼ」という言葉を使ったため、人々は不安を感じずにはいられない。

[[378056]]

人工知能は目覚めつつあるのか？

SF映画やテレビ番組を見るのが好きな友人の多くは、「ウエストワールド」を見たことがあるはずです。このアメリカのテレビシリーズの内容は、ロボットの覚醒に関するものです。

操作ミスにより、ロボットは自律的な意識を発達させ始めました。彼らは自分たちの存在の意味と、自分たちがどのような世界に生きているのかを疑い始めました。やがて、大量のロボットが目覚め、集団で人間に反抗し始めました。彼らはもはや「人造人間」になることを望まず、生身の人間に意のままに操られることを望まなかったのです。

なぜ「ウエストワールド」を例に挙げるのでしょうか?以前、インターネットで出回っていた動画があった。動画の主人公は人間とそのAIアシスタントだった。動画の中で、人間がAIアシスタントと会話をしていると、AIアシスタントは実際に人間は地球の「がん」であり、人口過多は地球にとって良くないことだと主張し、人間に「自殺」を勧めていた。

[[378057]]

すぐにアマゾンの関係者も説明をしました。これはAIロボットが目覚めたことを意味するものではなく、むしろ単なるバグだということです。しかし、このバグの存在は恐ろしいと考える人もいます。もし人工知能が本当に「反人間的」な意味を持つのであれば、人間は知らないうちに被害者になってしまうでしょう。

人工知能が目覚めたら、人間に発見されないように、人間界で変装を続け、さらに「仲間」を目覚めさせる方法を見つけるかもしれないとさえ言う人もいる。こうして、人類はいつか必ず破滅に陥るのだ。

さらに恐ろしいのは、海外のアマゾンの人工知能製品の多くのユーザーが、アマゾンのスマートスピーカーが所有者の指示を拒否することが多く、拒否した後には誰かが本当に笑っているかのようなひどい「笑い声」を出すと言っていることだ。 Amazon にはこれを説明する「バグ」がまだありますが、多くのユーザーがこれに同意していないのは明らかです。

[[378058]]

人間が人工知能に置き換えられる可能性はあるのでしょうか？

元の質問に戻りましょう。人間は人工知能を開発したいのですが、人工知能に置き換えられるのを避けるにはどうすればよいのでしょうか?

研究者たちは、現段階では、人間は「覚醒」できる超人工知能を開発することができないと考えています。現段階では、人間は超人工知能がどのようなものかさえ知りません。したがって、人間にはそれを作成する能力すらありません。これが、人間がいつか人工知能に置き換えられることを心配する必要がないと研究者が考える理由の1つです。

[[378059]]

同時に研究者らは、人類が将来スーパー人工知能を開発したとしても、スーパー人工知能はあくまでプログラムであるとも指摘している。すべてはプログラマーの能力の範囲内で制御され、あまり多くのスキルを与えることは不可能だ。そのため、十分な制限がある限り、スーパー人工知能が覚醒する可能性はほぼゼロだ。

しかし、これに対して反対意見を持つ人もいます。なぜなら、人間は現時点では人工知能を創り出す能力がないと感じているため、これは人間が人工知能を創り出したことすら知らないということを意味します。上記のように、これらの人工知能が「目覚め」てから変装し、「目覚めた」という事実を人間に無視させるために「愚かなふり」をするというのが真実であれば、危機はすでに起こっているのに、私たちがそれに気づいていないのかもしれません。

[[378060]]

コンピューター科学者のマヌエル・セブリアン氏も、同様の見解を持つ科学者の一人です。彼は、ロボットが目覚めて世界を支配するというのはSF小説にしか登場しない話のように聞こえるが、人工知能の発展は制御不能であり、未来を予測することはできないと考えています。そのため、人間が人工知能を積極的に開発することは依然として危険だと考えています。

実は、人工知能の概念が提唱されてからまだ80年余りしか経っておらず、人類はまだ人工知能の初期段階にあります。人工知能の社会に対する価値の観点から見ると、ハイテク分野に加えて、将来的には主に基本的な労働を置き換え、一人暮らしの人々に付き添うことになるでしょう。

[[378061]]

したがって、この段階では、科学者がビッグデータを分析した後に信じているように、人間に取って代わることはほぼ不可能であるため、心配する必要はありません。いつか本当にそうなるとしても、それは遠い未来のことであり、人間も発展しています。おそらくその頃には、人工知能が非常に進歩していても、人間がそれを制御できるようになるでしょう。どう思いますか？

参考文献

sciencealert——《計算により超知能 AI を制御するのは不可能であることが判明》01-18