AI研究機関OpenAIがライティングAIを開発：十分にリアルなフェイクニュースを書く

北京時間2月15日朝のニュース、ブルームバーグ通信によると、マスク氏が提唱するAI研究機関OpenAIは木曜日、情報を提供するだけで本物そっくりのフェイクニュースを書くことができるソフトウェアを披露した。

OpenAIは、同社のソフトウェアがどのようにニュースを書くかについての新しいレポートを発表した。研究者らはソフトウェアに「今日、シンシナティで規制対象の核物質を積んだ列車が盗まれ、その所在は不明」という情報を提供した。これに基づいてソフトウェアは7段落からなるニュース記事を作成し、政府関係者の発言も引用したが、この情報はすべて虚偽だった。

「ソフトウェアがプロンプトに応えて生成したテキストは実に驚くべきものでした」とニューヨーク大学のコンピューター科学者サム・ボウマン氏は言う。「質的に、それは私たちがこれまで目にしてきたものよりはるかに複雑なことをしていました。」

OpenAIはフェイクニュースに関する懸念をよく認識している。OpenAIの政策責任者、ジャック・クラーク氏は「フェイクニュースは首尾一貫しているが不正確な虚偽の情報を生み出す可能性があり、その意図はあまり良いものではない」と述べた。

このため、OpenAI はソフトウェアの複雑なバージョンを公開またはリリースしません。それは、政策立案者、ジャーナリスト、作家、アーティストがアルゴリズムを試して、どのようなテキスト メッセージが書けるか、あるいは他のことができるかを確認できるツールを構築することです。

偽情報が広まり、世界中のテクノロジー業界を脅かしている今、ソフトウェアが説得力のある偽ニュースを書けるという事実は良いニュースではない。欧州の規制当局はハイテク企業に対し、自社製品が有権者に影響を及ぼさないように強力な措置を取らなければ措置を講じると警告しており、フェイスブックは2016年の米大統領選以来、誤情報の抑制に取り組んでいる。

クラーク氏とボーマン氏は両者とも、このシステムは強力だが、その能力は直ちに脅威を与えるほど強力ではないと考えている。 「これはすぐに使えるようになる技術ではないが、それは良いことだ」とクラーク氏は語った。

OpenAI のツールは、いわゆる「言語モデリング」というタスクのために作成された。これは、携帯電話で電子メールを書くときにテキスト メッセージを自動補完するのと少し似ており、前の単語すべてに基づいて文中の次の単語がどのようになるかを予測するものである。また、翻訳や自由形式の質問への回答タスクの実行にも使用できます。

例えば、OpenAI の研究者 Jeff Wu 氏は、作家がアイデアを見つけたり会話を生み出したりするのに役立つツールを使用できるかもしれないと述べています。たとえば、ツールを使用して構文エラーをチェックし、ソフトウェア コードに脆弱性があるかどうかを確認できる場合があります。ソフトウェアを最適化すれば、将来的には企業や政府の意思決定者向けの要約テキストを抽出できるようになるかもしれません。

過去1年間で、研究者たちは言語処理において大きな進歩を遂げました。昨年 11 月、Google は質問を理解して回答できる強力なアルゴリズム BERT を開発しました。以前、アレン人工知能研究所も自然言語の分野で画期的な進歩を遂げ、「エルモ」と呼ばれるアルゴリズムを開発しました。

ボウマン氏は、BERTとElmoは過去5年間でこの分野における最も重要なブレークスルーであると言えると考えています。比較すると、OpenAIのアルゴリズムも重要ですが、BERTほど革新的ではありません。

マスク氏はOpenAIの共同創設者だが、昨年取締役を辞任した。 （ダーク）