OpenAI の新しいモデルは大きな飛躍を示しています。AGI のプロトタイプは人類を脅かす可能性があり、アルトマンを解雇する導火線にもなりました。

サム・アルマンが解雇され、最新の内幕が明らかに！

ロイター通信によると、彼が解雇されるわずか4日前に、OpenAIの研究者らは取締役会に警告書を送り、人類を脅かす可能性のある強力な人工知能を発見したと伝えた。

これまで報道されたことのないこの手紙は、取締役会が最終的にアルトマン氏を解任するきっかけの一つになったと、事情に詳しい関係者は語った。

報道によると、OpenAIの暫定CEOを務めていたミラ・ムラティ氏は、水曜日にQ*（Qスターと発音）と呼ばれるプロジェクトについて言及し、「クーデター」の前に取締役会に手紙を書いたという。

取締役会は、アルトマンが取締役会の承認なしに人類を脅かす可能性のあるプロジェクトを進めていると感じていた。

同時に、一部の社内研究者は、OpenaAI による Q* の進歩が AGI における重要なブレークスルーになると考えています。

しかし、先ほど、TradingStrategy.ai の共同創設者は、「AI における大きな進歩」という主張は OpenAI の内部関係者によって否定されたと述べました。

APEC会議での「危険な」演説

この計画を裏付けるもう一つの出来事は、サム・アルトマン氏が解雇された日にAPEC会議で行った演説だった。

その会議で彼は、OpenAI が GPT-4 よりも強力で想像を絶するものを開発したと示唆し、人々の期待をはるかに超えていた。

誰も予想していなかったモデルの機能が飛躍的に向上するでしょう。人々の予想に反して、その飛躍は驚くべきものでした。

この発言はおそらく彼の解雇理由の一つであり、イリヤと他の取締役に彼が多くの情報を隠していたと思わせるものであった。

現在起こっている技術の変化は、私たちの生活様式、経済・社会構造、そして可能性の限界を完全に変えるでしょう。OpenAI の歴史上、4 度目、最近ではここ数週間で起こったことです。

無知のベールが取り除かれ、未知の領域が探求される現場に立ち会えたことは、私のキャリアにおける光栄なことです。

Q * AGI とは何ですか?

ロイターの取材に対しコメントを控えたオープンAIは、従業員への社内メッセージでQ*と呼ばれるプロジェクトを認め、週末のイベントに先立ち取締役会に書簡を送ったと関係者の1人が語った。

OpenAIの広報担当者は、このメッセージはCTOのミラ・ムラティ氏が特定のメディア報道について従業員に警告するために送信したものだと述べたが、その正確性についてはコメントしなかった。

OpenAIの一部の人々は、Q*（Qスターと発音）がAGIに向けたOpenAIの突破口になる可能性があると考えていると、関係者の1人がロイター通信に語った。

OpenAI の見解では、AIG は「最も経済的に価値のあるタスクにおいて人間を上回る自律システム」と定義できます。

膨大な計算能力のサポートのおかげで、新しいモデルは特定の数学的問題を解決することができます。小学校レベルの数学の問題しか解けないが、このようなテストにより研究者たちは Q* の将来について非常に楽観的になっている。

事情に詳しい人物によると、研究者らは委員会への書簡の中で、AIの威力と潜在的な危険性の両方を指摘したが、書簡で提起された安全性の問題の具体的な内容については言及しなかったという。

さらに、研究者らは「AI科学者」チームの研究にタグを付けたが、その存在は複数の情報源によって確認されている。

30 年以上前、ニューラル ネットワークは統計的な性質を持つため、人間の体系的な組み合わせスキルが根本的に欠如しているという Fodor 氏と Pylyshyn 氏による古典的な主張が、ニューラル ネットワークの研究に長い影を落としました。

関係者の1人によると、このグループは以前の「Code Gen」と「Math Gen」のチームで構成されており、既存のAIモデルを最適化して推論能力を向上させ、最終的には科学的な研究を行う方法を模索しているという。

このプロジェクトはイリヤが主導している。

OpenAIの従業員の中には、アルトマン氏の発言は、より強力なAIモデルの開発を可能にした同社の以前のイノベーションに言及しているはずだと考える者もいると報じられている。

イリヤのチームによるこの研究はこれまで報告されたことがない。

事情に詳しい関係者によると、OpenAIの主任科学者イリヤ・スツケバー氏が率いたこの技術的躍進は、一部の従業員の間で懸念を引き起こしている。彼らは、企業がこのような高度な AI モデルを商業化するための適切な安全対策を講じていないことを懸念しています。

その後数か月で、OpenAI の上級研究者たちはこの革新技術を活用し、基本的な数学の問題を解くことができるシステムを構築しました。

大規模モデルを頻繁に使用する人は、数学的な問題が既存の LLM にとって困難な作業であることを知っています。

The Informationによると、OpenAIの研究者2人、Jakub Pachocki氏とSymon Sidor氏がIlya氏の研究成果を利用してQ*（「Q-Star」と発音）と呼ばれるモデルを構築したという。

Q*モデルは、これまでに見たことのない数学的問題を解決できると言われており、これは重要な技術的マイルストーンです。

このモデルのデモンストレーションはここ数週間OpenAI内で広まっており、AI開発のスピードはセキュリティ研究者に衝撃を与えている。

関係者によると、イリヤの躍進は、次世代モデルの開発における主な障害であった、新しいモデルをトレーニングするために十分な高品質データを取得するという制限がOpenAIにはなくなったことを意味する。

この研究では、インターネットから取得したテキストや画像などの現実世界のデータではなく、コンピューターで生成されたデータを使用しました。

イリヤさんは何年もの間、数学や科学の問題など、推論を伴うタスクを GPT-4 で解決する方法を研究してきました。

これに先立ち、イリヤはこの分野で長年の経験を積んでいました。 2021年に彼はDeepMind AlphaZeroへのオマージュとしてGPT-Zeroというプロジェクトを立ち上げました。

GPT-Zero はチェス、囲碁、将棋をプレイできます。研究チームは、大規模モデルにさらなる時間と計算能力が与えられれば、将来的に新たな学術的進歩を達成できるだろうと想定している。

さらに、半年前にはシリコンバレーの大物が、OpenAI が「リアルタイム検索」とモデル機能を組み合わせて、想像を絶する AI 機能を生み出す可能性が高いことを明らかにした。

特に、法学修士課程で早急に向上が求められている数学的・推論的能力は、今後大きく強化される可能性が高い。

この可能性を示唆した後、彼は2週間後にOpenAIに入社しました。

アライメントと加速

そして、アルトマン氏が昨日CEOに復帰した後も、OpenAI内では仕事のペースをめぐる緊張が続いており、幹部間の根本的な分裂は残っているようだ。

イリヤ自身もこの技術に対して疑問を抱いているようだった。 7月に彼は、AIシステムが人類に及ぼす可能性のある脅威を制限することに専念するアライメントチームを結成した。

OpenAI の調整チームの見解では、スーパー AI はまだ遠いものの、10 年以内には実現すると考えています。

パチョッキとシドールの立場は、イリヤのチームに対する姿勢とは反対になる可能性が高い。

両氏は先週アルトマン氏が解雇された後、すぐに辞任した。アルトマンが復職した後、2人は会社に戻った。

OpenAIの社長兼共同創設者であるグレッグ・ブロックマン氏もこの技術を支持しており、新製品に統合することに尽力している。アルトマンが復職した後、彼も会社に復帰した。