いつか、おそらく数十年以内に、人工ニューラル ネットワークを使用して、人間の脳をリアルにシミュレートするマシンを構築できるようになるかもしれません。しかし、その時までに、このような強力な生物を安全に保つにはどうすればよいのでしょうか? AI が人間のように外部の力によって簡単に誘導され、操作されないようにするにはどうすればよいのでしょうか?
ロボットは催眠術をかけられるのか?AI の究極の目標は、人間が信じるのと同じくらい高いレベルの知能を達成することです。この専門分野に精通していない多くの友人は、誇大な報道に惑わされ、現代の AI がすでに非常に高い知能を持っていると信じてしまうことがよくあります。 しかし実際には、外部からの助けなしにキッチンに直接入って香り高いコーヒーを淹れられるロボットはこの世に存在しません。 なぜ AI はこのような単純なタスクに困惑するのでしょうか? それは、AI がまだ実際に考える能力を持っていないからです。 AIには「思考段階」がないため、記憶や動機に基づいて斬新なアイデアを生み出すことはできません。代わりに、指示された内容に従って入力を出力に変換するだけです。 しかし、AI研究者の中には、ディープラーニング以外にも、より「自然な」形のAIを実現する方法はあると考える人もいる。 人工汎用知能(AGI、一般的には人間レベルの知能を持つ AI と考えられている)への従来の道の 1 つは、人工ニューラル ネットワークを使用して人間の脳の働きをシミュレートすることです。しかし、人間の脳をシミュレートすることが目的なので、機械知能も催眠術師に捕らえられるのでしょうか? 殺人ロボットがいるなら、殺人催眠ロボットもある「ターミネーター」のような非人道的な機械が突然家に侵入してくるのではないかと恐れる人もいる。しかし、おそらくさらに恐ろしいのは、この機械のより「人間的な」側面です。 最も議論の多い分野の一つとして、催眠術には魔法の力があるようです。多くの学者が催眠術の実際の有効性を疑問視する論文を発表していますが、最近の研究結果によると、特定の言葉を通じて人間の意識状態を変えることは確かに可能です。もちろん、これは必ずしも確実な解決策ではありません。ある程度の「スキル」が必要です。 しかし、催眠術のこの特定の効果が一般化されると、将来人間が作る高度なロボットも同様の影響を受けるかどうかを本当に心配する必要があるかもしれません。 通常の冗談の催眠術はもちろん無害だが、テロリストが信号機の制御システムを催眠術で操作したり、あるいはそれを利用して何百万台もの自動運転車を侵入させたりすれば、結果は悲惨なものとなるだろう。 これは少し大げさでしょうか?完全にはそうではありません。現在、機械学習におけるバイアスが中心的な問題となっています。人間が生成したデータやラベル付けされたデータを大量に機械に取り込む場合、何らかの偏りの要素が存在することは避けられません。このため、GPT-3はイスラム教徒についての固定観念を確立し、MITはRedditのデータを使用してトレーニングした後、「精神病質」特性を持つAIモデルも取得しました。 実際、AI システムが人間のように学習し、考えるほど、人間の心のような外部の誘因の影響を受ける可能性が高くなります。 脅威は現実です。おそらくいつの日か、ハッカーは従来のコンピュータには影響を及ぼさない大量の信号を AI システムに送りつけることで、AI システムの思考方法を操作できるようになるだろう。 自然な会話を理解できる AI システムは音声によって操作されることさえあり、コンピューター ビジョン機能を備えた AI システムは慎重に設計された画像によって騙される可能性があります。理論的には、人間のような知能を持つ AI は、人間と同じように催眠術で自分自身を失うことができるはずです。 |
<<: ペット経済に乗って、ロボットアプリケーションが新しい市場を開拓
>>: オンラインクレジットは消費者保護において「難しい問題」でしょうか? AIアプリケーションは消費者の権利を保護する
[[399295]]この記事はWeChatのパブリックアカウント「Python Society」から...
企業に対するセキュリティ上の脅威は常に存在していましたが、インターネットの発展により、脅威は物理空間...
春の始まりの2月4日、世界の注目は北京に集まった。音楽、光、影が流れる中、オリーブの枝に囲まれた巨大...
人工知能 (AI): 私たちの日常生活、生き方、他者との関わり方に根本的な変化がもたらされるのは、第...
Google Gemini はどれほど強力ですか?カーネギーメロン大学は、専門的かつ客観的な第三者...
2018 年 10 月 31 日、上海 - 世界有数のソフトウェア インテリジェンス企業である Dy...
2017 年、人工知能とビッグデータの開発では次の 10 の成長痛が発生しました。 [[216307...
少し前、あるニュースが大きな衝撃を与えた。3年前の母親殺害事件の容疑者、呉謝宇が重慶江北空港で逮捕さ...
コンピューターは小型化、高性能化していますが、動作には大量のエネルギーが必要です。過去 10 年間で...
[[163141]]先月、Facebook は 2015 年第 4 四半期の驚異的な財務結果を発表し...
多くのセキュリティ業界の専門家は、過去 10 年間に登場した新しいテクノロジーを振り返り、将来のテク...