サム・アルトマンは大胆な発言をした。「OpenAIにはGPT-5を訓練するのに十分な資金があり、人間はAGIの閾値に近づいている」

「なぜ OpenAI の最終目標は AGI なのでしょうか? AGI とは何ですか?」

ChatGPT やその他の言語モデルの目的は何ですか?

「人間と人工知能の関係は今後どのように変化するのでしょうか？」

2023年のウォール・ストリート・ジャーナル（WSJ）テックニュースカンファレンスで、OpenAIのCEOサム・アルトマン氏とCTOミラ・ムラティ氏が、人工汎用知能（AGI）、GPTモデルの将来の開発、AIが人類に与える影響について議論しました。

9年前、サム・アルトマンはウォール・ストリート・ジャーナルの会議で、人工知能が人間の失業を引き起こすのは遠い将来にのみ起こることであり、それについてあまり心配する必要はないと述べた。

それから10年も経たないうちに、アルトマン氏と彼が共同設立したOpenAI社は、ChatGPTと呼ばれる人工知能チャットボットをリリースした。

電子メール、ビジネス プラン、さらにはコードも作成できます。これは 9 年前には想像もできなかったことです。

現在の人工知能が人間社会に及ぼす影響と影響力について議論する際、アルトマン氏は依然として楽観的だが、9年前よりも慎重になっている。

写真

OpenAIの究極の目標：AGI

AGI、この概念は誕生以来、人々によって無限の美しい想像力に恵まれてきました。

アルトマン氏もこれに同意しており、AGI は人類がこれまでに作った中で最も優れた創造物になるだろうと信じている。

写真

この素晴らしいツールにより、人類は今日の世界の問題を解決し、自分自身、互い、そして世界のために想像もできない新しいものを生み出すことができるでしょう。

その時、人類はより創造的な自己表現の手段を持つことになるだろう。しかし、アルトマン氏は、これらの変化が人類に大きな利益をもたらすと確信している。

「今から9年後、ウォールストリートジャーナルが私を招待したとき、あなたはこう尋ねるかもしれません。『なぜ私たちは人類がAGIの到来を望んでいないと思ったのか？』」

では、AGI はいつ登場するのでしょうか? AGI がいつ来るかはどうやってわかるのでしょうか?

アルトマン氏は、AGI を「まだ存在しないもの」と定義しています。 10 年前なら、GPT-4 や GPT-5 のようなものが AGI だと思われていたかもしれません。

しかし現在、GPT-4 は単に非常に優れた「小さなチャットボット」として見られています。

AGI に対する人々のベンチマーク要件はますます高くなり、人々は人工知能にますます多くの努力を注ぐことが求められています。

アルトマン氏は「人類は今やAGIの限界に十分近づいており、AIの能力を向上させることはそれほど重要ではなくなる。私たちが今直面している問題は、AGIをどう定義するかということだ」と語った。

GPT-5: 「幻覚」とデータ著作権の問題を解決する

OpenAI は設立以来、GPT のいくつかのバージョンをリリースしており、それぞれが前のものよりも強力になっています。

今年3月、OpenAIは最新モデルGPT-4をリリースしました。しかし、人々はまだ OpenAI の次のモデルについて期待に満ちています。GPT-5 は開発中でしょうか?

この質問に対して、OpenAI の CTO である Mira Murati 氏は、「まだそこまでには至っていません」と答えました。

しかし彼女はまた、OpenAIはモデルの幻覚を減らすなど、次のことに取り組んでいるとも述べた。GPT-5の将来のリリースでは、現在モデルを悩ませている幻覚の問題を解決することに専念する予定だ。

ミラ氏は、GPT-4は幻覚の問題解決に大きな進歩を遂げているものの、幻覚の問題を完全に解決するにはまだ程遠いと述べた。

しかし、OpenAI は、人間によるフィードバック強化学習 (RLHF) という正しい方法で問題を解決し、モデルが真に信頼できるコンテンツを出力できるようにしています。

さらに、OpenAI は、モデルに検査機能や検索機能を追加したり、モデルにさらに事実に基づいたデータを提供してユーザーがモデルからより事実に基づいた出力を取得できるようにするなど、さまざまなテクノロジーを統合することで、モデルの幻覚問題も軽減します。

しかし、著作権はOpenAIにとって常に論争の的となってきた。

モデルのトレーニングに使用されるデータだけでなく、モデルによって生成されるコンテンツにも著作権保護の問題が伴うことがよくあります。

多くの出版社や作家がOpenAIの侵害に対して抗議した。

アルトマン氏は、データの使用とデータの所有権の問題について別の観点から議論しました。

将来的には、OpenAI の新しいモデルは誰もが利用できるインフラストラクチャとなり、データの所有権と経済の流れについての考え方が変わることになります。

現在、OpenAI はさまざまなデータ著作権保有者とのパートナーシップを確立するために取り組んでいますが、モデルがよりスマートで高性能になるにつれて、トレーニングに必要なデータは将来ますます少なくなっていきます。

しかし、現在のモデルでは、トレーニング時にすべての人間からできるだけ多くのデータを必要とします。しかし、アルトマン氏は、将来本当に重要になるのは貴重なデータであるため、これはモデルの長期的な開発経路にはならないと述べた。

OpenAI が技術を進歩させるにつれて、データと所有権に関する議論は変化するでしょう。

人類とAIの未来

一つ目は、人間とAIの関係性の問題です。

9月25日、OpenAIはGPT-4にさらにパーソナライズされた機能を追加しました。現在、ChatGPT は見たり、聞いたり、話したりすることができます。

新しく追加されたGPT-4の音声機能は非常に人間化されており、人とのコミュニケーションは非常に自然です。

ユビキタス AI が人間の生活の中ですぐに現実のものとなることが予見されます。

将来、私たちは人工知能との関わりを避けることはできませんが、そこで疑問が生じます。人間は人工知能との関係をどのように扱うべきでしょうか?

OpenAIやモデルをトレーニングする他の企業は、人々との関係を形成するAIをある程度制御できます。

これは不安な未来であり、これらの AI は人間の友人、あるいは仲間になる可能性が高い。

しかしアルトマン氏は、人間が人工知能と人間の友人以上の親密な関係を築くことを望んでいないことを明確にした。人工知能は人間とは異なり、おそらくこれらのシステムは個性に満ちているが、それは人間の本質とは何の関係もない。

そのため、人工知能とコミュニケーションをとる場合には、人間とのコミュニケーションと区別する必要があります。

「このモデルに人の名前ではなくChatGPTという名前を付けたのは、ユーザーが本物の人間ではなく人工知能とコミュニケーションを取っていることを明確にするためだ」とアルトマン氏は強調した。

しかし、人々がさまざまな関係を持っているのと同じように、AI とも特別な関係を持つことになります。しかし、最終的には、AI は人間とは異なるが、私たちと AI の関係が壊れることはないということに人々は気づくでしょう。

一方、AIの急速な発展は、AIが犯罪に利用されたり、雇用市場に影響が及んだりするなど、AIがもたらす制御不能なリスクを人々に懸念させています。

たとえば、AI にコンピュータ システムに侵入するよう命令したり、生物兵器を設計するよう命令したりするなどです。

写真

これは遠い未来ではありません。生成型 AI の流行が始まって以来、詐欺やサイバー攻撃に AI が利用されることは一般的になりました。

しかしアルトマン氏は、こうした悪影響は技術開発の過程で避けられないものだと考えている。

私たちが対処すべきなのは、開発をあきらめるのではなく、テクノロジーがもたらすリスクです。後者は依然として人類にとって道徳的な失敗である。

人類の歴史において、ほぼすべての技術革命は雇用市場に大きな影響を与え、完全な混乱を引き起こしたり、雇用の半分が消滅したりしてきました。

しかし、古い仕事がなくなると、新しい仕事が生まれるというのが現実です。これは人類の進歩の証です。問題は私たちの社会が変化に適応するスピードにあります。

人間は、2世代、あるいは長くても3世代以内に、雇用市場におけるほぼあらゆる程度の変化に適応することができます。

転職を望まない人や転職を好まない人もいるかもしれませんが、仕事の性質は変わります。

狩猟採集民の部族にとって、コンピューターでタイピングすることは、本当の仕事とはみなされないでしょう。

「仕事とは、人間が愚かな地位ゲームで自分を楽しませようとしているだけだ」とアルトマン氏は言う。

本当の課題は、変化する雇用市場への移行に対処することです。

社会は、この移行で人々が被害を受けないように行動する必要があります。単に普遍的な基本所得を提供するだけでは不十分です。人々は未来の構築に参加するためのイニシアチブと影響力を持つ必要があります。

これが、OpenAI が ChatGPT を推進することに熱心である理由です。

誰もが人工知能技術を利用できるわけではありませんが、より多くの人が参加するにつれて、人々は将来の発展の方向性について考え、定義する機会を得ることになります。

これが私たちが最も注意を払うべき点です。

参考文献:

https://www.youtube.com/watch?v=byYlC2cagLw