チャットAIは、わからないことに遭遇するとオンラインで検索できます。ネットユーザー：グループチャット中にこっそり百度で検索するのと同じです

[[411960]]

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

チャットボットは常に人工知能の典型でした。

GPT-3以降、AIが生成したテキストは本物と区別がつかなくなっていますが、これは段落の生成に限られています。

継続的なチャットでは、AI は次のように以前に言ったことを覚えていません。

AIの一貫性のないパフォーマンスは、人間にとっては安定したアイデンティティと性格を持っているように見え、チャット中に別の人に変わったかのように見えます。AIが常に人工の愚か者と見なされてきたのも不思議ではありません。

現在、Facebook AI チームは、1.0 をベースに長期記憶とインスタント検索機能を追加したBlenderBot 2.0 をついにリリースしました。

まず、あなたが言ったことを思い出してください:

後々の会話で衝突を避けるために、「私はたくさんの音楽が好きです」や「カニエ・ウェストは私のお気に入りのラッパーです」と言ったことを書き留めてください。

お気に入りのアルバムなど、人間が言うことも覚えておいてください。

最後に、AI が知らないことを人間が言及した場合はどうなるでしょうか?

誰にも気づかれずにこっそりインターネットを検索し、見つけた情報を披露することができます。

相手が好きなアーティスト、ビヨンセの出身地を調べて、「何度か行ったことがあるよ」と会話を続けましょう。

グループチャット中にこっそり百度で検索しているような感じではないでしょうか？

精神障害に別れを告げる方法

Facebook AIが昨年リリースしたBlenderBot1.0は、すでに94億のパラメータを持ち、単一ラウンドの対話生成において優れた成果を達成しました。

今回のアップグレードの焦点は、過去の会話の記憶やインターネット上の資料から、現在の会話に活用できる情報を抽出できる検索強化アルゴリズムです。

トレーニングデータについては、Facebook がクラウドソーシング プラットフォームにタスクを投稿しました。

参加者は会話の中で特定の性格を演じ、数時間または数日ごとに同じトピックについて話し合い、複数ラウンドの会話データセットを収集するよう求められます。

AIがオンラインで情報を検索し、チャットに利用する能力も人間から学んだものです。

また、今回のクラウドソーシングプラットフォームでの課題は、1人が自分の興味を説明して話題を始め、もう1人がインターネットで検索して会話を続けるというものです。

このように、AIはさまざまなトピックに直面したときに人間が検索するのに適したキーワードを学習できるだけでなく、チャットでどのような情報を使用できるかを学ぶこともできます。

実験結果によると、BlenderBot2.0は以前の会話内容の利用率が55%増加し、会話における事実の一貫性が12%増加し、人間の評価者によるスコアが17%増加しました。

オンラインで情報を検索できるようになると、AIは新しく公開されたテレビ番組について話すなど、人間界の最新の話題にも参加できるようになります。

BlenderBot1.0 に今年の新作映画「ワンダヴィジョン」について話すと、彼はまだ見ていないとしか言​​えず、その日の会話は終わります。

Blender 2.0 は、映画の中で誰が好きなキャラクターであるかを検索して教えてくれるので、人々は会話を続ける意欲が高まります。

AI の記憶は、トレーニングされた瞬間から静的なものではなくなります。

ルカンは気に入っているが、マスクは人生観を心配している

3大巨頭の1人であるLeCun氏は、BlenderBot2.0をすぐに転送し、「あらゆるトピックについて複数回の会話を行うことができる初のチャットボット」だとコメントした。

マスク氏が懸念しているのは、オープンなインターネットから情報を取得することでAIがすぐに歪んでしまうことだ。

彼が挙げた例は、マイクロソフトが発売したTayロボットがネットユーザーによって約16時間でナチス支持者に変えられ、最終的に店頭から撤去を余儀なくされたというものだ。

AIと「好きな作品」について議論することに対して不信感を表明する人もいた。

AIは特定の作品を好まないかもしれませんが、ネット上で話題の作品を追うほとんどの人と同じように、最も人気のある作品を自動的に最高の作品とみなします。

潜在的なプライバシーリスクを懸念する人もいます。

AI にインターネットを検索させると言うとき、Facebook 上の私の投稿を検索するという意味ではないですよね?

興味があれば、Facebook の Parlai プラットフォームにアクセスしてモデルをダウンロードし、チャットすることができます。

オープンソースプロジェクトのアドレス:
https://parl.ai/projects/blenderbot2/

関連論文:
[1] https://github.com/facebookresearch/ParlAI/blob/master/projects/sea/Internet_Augmented_Dialogue.pdf
[2] https://github.com/facebookresearch/ParlAI/blob/master/projects/msc/msc.pdf