ルカン、アンドリュー・ン、その他370人以上が共同書簡に署名：AIの厳格な管理は危険、オープン化がその解毒剤

近年、AIをどのように監督するかについての議論はますます白熱しており、有力者の意見も大きく異なっています。

例えば、チューリング賞の三大巨頭であるジェフリー・ヒントン、ヨシュア・ベンジオ、ヤン・ルカンの間では意見が分かれています。ヒントン氏とベンジオ氏は同じチームだ。彼らはAIの規制強化を強く求めており、さもなければ「AIによる人類絶滅」の危険があるかもしれない。ルカン氏は彼らとは異なる見解を持っている。彼は、AIに対する厳しい規制は必然的に巨大企業による独占につながり、結果としてAIの研究開発を少数の企業がコントロールすることになると考えている。

自らの考えを表現するために、多くの人が共同書簡に署名して意見を伝えている。例えば、ここ数日、ベンジオ氏、ヒントン氏らは「急速に進化する時代における人工知能リスクの管理」と題する別の共同書簡を発表し、研究者らにAIシステムを開発する前に緊急ガバナンス措置を講じるよう呼びかけた。

一方で、最近ソーシャルメディア上では「人工知能の安全性とオープン性に関する共同声明」と題する公開書簡が話題になっている。

公開書簡リンク: https://open.mozilla.org/letter/

現時点で、ディープラーニングの三大巨頭の一人であるルカン氏やスタンフォード大学のコンピューターサイエンス教授アンドリュー・ン氏を含む370人以上がこの公開書簡に署名している。リストはまだ更新中です。

LeCun 氏は、「オープン性、透明性、幅広いアクセスにより、ソフトウェアプラットフォームはより安全で信頼性の高いものになります。私も署名した Mozilla Foundation からのこの公開書簡は、オープンな AI プラットフォームとシステムの必要性を訴えています」と述べました。

公開書簡の内容は次のとおりです。

私たちは AI ガバナンスの重大な岐路に立っています。 AI システムによる現在および将来の被害を軽減するには、オープン性、透明性、幅広いアクセスを受け入れる必要があります。これは世界的な優先事項になる必要があります。

確かに、公開されているモデルにはリスクと脆弱性があり、AI モデルは悪意のある人物によって悪用されたり、十分な準備のない開発者によって導入されたりする可能性があります。しかし、私たちはあらゆる種類の独自技術において、これを何度も目にしてきました。つまり、一般の人々のアクセスと監視が強化されると、技術はより危険になるのではなく、より安全になるのです。基礎となる AI モデルに対する厳重かつ独自の管理が、大規模な被害から私たちを守る唯一の方法であるという考えは、よく言ってもナイーブであり、最悪の場合、危険です。

さらに、人類の発展の歴史は、間違った種類の規制を急速に導入すると、競争と革新に悪影響を与える権力の集中につながる可能性があることを物語っています。オープンモデルは、公的な議論に情報を提供し、政策の策定を改善することができます。私たちの目標が安全性、セキュリティ、説明責任であるならば、オープン性と透明性はその目標を達成するための重要な要素です。

私たちは現在、AI 時代における「オープン」の意味について活発な議論を交わしている最中です。この重要な議論は停滞すべきではない。むしろ、AI の安全性をめぐる競争において、オープン性を活用した新しいアプローチの実験、学習、開発のペースを加速し、促進するべきです。

私たちは、次のような基盤となるオープンソースとオープン性への一連のアプローチを構築する必要があります。

1. 独立した研究、コラボレーション、知識の共有を通じて、AI 機能のリスクと危険性の理解を促進します。

2. 規制当局が大規模な AI システムを監視するツールを導入できるよう支援することで、公的監視と説明責任を強化します。

3. 新規プレイヤーの参入障壁を下げ、責任ある AI の作成に重点を置きます。

この公開書簡の署名者である私たちは、科学者、政策立案者、エンジニア、活動家、起業家、教育者、ジャーナリストなど、多様な人々で構成されています。私たちは、オープンソース AI がどのように管理され、リリースされるべきかについて、さまざまな視点を代表しています。しかし、私たちは一つの点については強く同意しています。それは、AI 時代に私たちの安全を守るためには、オープンで責任ある、透明性のあるアプローチが不可欠であるということです。

AI の安全性に関して言えば、オープン性は毒ではなく解毒剤です。

署名者: