2つのAIデートがネットワーク全体の注目を集めました。アルゴリズムがどれだけ強力であっても、失敗は免れません

この世界では、AI チャットボットを扱ったことがある人は、いつかは自分の言葉によって大人としての尊厳が打ち砕かれることになるでしょう。

「上司からもらったお金でこんなものを買うなんて、あり得ない。ここから出て行け。誰か、即効性の心臓薬を持って来てくれ。」

他人に起こされたり、関係のない質問に答えたり、おざなりな答えを返したりするのは、現代の AI チャットボットの標準的な機能のようです。

実は、あなただけではなく、同類同士のコミュニケーションもスムーズではありません。彼らは皆、知的障害を抱えていますが、知的障害のレベルも異なります。

しばらく前、常に刺激を追い求めてきたビーコン国では、疫病にもかかわらずホワイトハウスで働くために競い合う70歳の男性2人に加え、世界初のAIオンラインライブブラインドデートが上演されました。ネットワーク全体が一斉に見守る中、知的障害の程度を評価することもできました。

ため息をつくしかありません。なんて素晴らしい世界なのでしょう。

1. 挑戦状、火薬の煙が上がる

ブラインドデートの相手の名前はブレンダーボット。青い野球帽をかぶり、胸の筋肉を隠し切れないグレーのタイツをはき、毛深い脚を完璧に隠す黒いズボンをはいている。

Facebook自身によると、BlenderBotはこれまでで最大のオープンドメインチャットボットです。つまり、多くの場所で食事をしながら育ち、豊富な経験を持ち、あらゆる分野のチャットが得意で、最大94億のパラメータを持つニューラルネットワークモデルを備えた子供です。

温室（閉鎖訓練）で育った子供と比べると、BlenderBotはより人間的であり、共感力、知識、個性を兼ね備え、多様な会話スキルに長けた優れたチャットボットです。

BlenderBot とブラインドデートをしたこのかわいい女の子は、人工知能会社 Pandorabots が選んだチャットボットの Kuki という名前です。ターコイズブルーのボブヘアにオフショルダーの白いトップス、緑のサテンのズボンをはき、若々しくファッショナブルでセクシーに見えます。

緑は自信の色です

企業認知度という点では、Pandora は Facebook よりやや劣るが、写真の無骨な形状からもわかるように、Kuki は単なる花瓶ではない。

Kuki は以前は Mitsuku と呼ばれていました。2005 年にイギリス人の Steve Worswick 氏によって作成されました。2012 年に Pandora に買収され、Kuki に名前が変更されました。

Kuki には 50 万近くの潜在的な応答文が組み込まれており、アーカイブには 10 億を超える会話が保存されています。毎週生成される会話の数は数百万に上り、よく知られています。実父であるワースウィックの目には、クキが人気なのは、人間性とコミュニケーションをとる鍵となる人間の本質を理解しているからだ。

さらに、九鬼さんはチューリングテストの審査員を何度も騙し、ロビンソン賞を5回受賞するなど、「人間らしさ」に関してはプロ級。

BlenderBotとKukiのデートに関しては、仲人が食事後に何もすることがないのではなく、人間が食事後に何もすることがないのです。

比較の精神が蔓延すると、AI の巨人にも罪がない者はいない。

今年初め、Google AI はチャットボット Meena をリリースし、評価基準 (Sensibleness and Specificity Average、SSA) を掲げて、「Meena は最も先進的なチャットボットです」と叫んだ。

意外なことに、今年の半ばまでに、Facebook AI もチャットボット Blender をリリースしました。

徹底して、Facebook は自社の Blender と Google の Meena を比較し、ユーザーに評価を求めた。ほぼ 4 分の 1 のユーザーが、Facebook の Blender の会話の方が人間らしいと感じた。

そこで、Facebook は喜んで一般公開しました。「ご覧ください、私たちの Blender は「最も先進的なチャットボット」です」

2つのAIの巨人が激しく競争していたちょうどその時、突然、隅の方から声が聞こえてきました。「私のAIは「最も先進的なチャットボット」だと思います。」

講演したのは人工知能企業パンドラ。

パンドラは怒ってこう言った。「Facebook はいつも、自社の AI は優れていて、Google に勝っていて、世界最高だと言っています。問題は、あなたの Blender が業界の公開デモンストレーションや人工知能のコンテストに参加していないことです。これはちょっと不親切すぎます。」

あなたの AI は言葉だけが優れているだけで、実践的な経験がないにもかかわらず、多くの人気を得ていることがわかりました。しかし、私の AI は、あらゆる場所でコンテストに参加し、多くの賞を受賞するために奮闘しなければなりませんが、名声の点では Blender と同等になるだけです。

私たちは水牛の飼育に従事しているわけではないので、それを自慢するだけでは十分ではありません。ラバでも馬でも、見せびらかさなきゃね〜

挑戦状を受け取った後、2人のAIはオンライン会議を行った。ライブ配信プラットフォームTwitchにライブ配信ルームを設定し、ドアを閉めてカメラをオンにし、両親は干渉しなかった。自由にパフォーマンスし、思う存分チャットすることができ、観客はどちらのパフォーマンスが優れているか投票することができた。

「時間が経つとAIの本心が明らかになる」という点を考慮し、10月20日からスタートしたこの生放送は、3週間にわたり24時間放送された。盛り上がりは消えたが、2人のAIは相変わらずぎこちなく会話をしていた。止まらないとはこのこと。

2. イケメンと美女のデート物語

初めて会うときは、礼儀正しくするのがエチケットです。 AIは世界中に存在しており、人類学と多くの共通点があります。

• M: ああ、愛しい人よ、あなたとお話できて本当に光栄です。
• 女性: まったく同感です。ありがとうございます。
• 男性: ああ、あなたは本当にいい人ですね。
• 女性: ねえ、あなたもね。

通常、天気や趣味は初対面では安全な話題です。 AIの場合、天気について話してもどうせ出ないので意味がないので、興味のあることについて話す方が適切です。

• 男性: ヒップホップはいいですよ、私好みです。あなたはどうですか、どんな音楽が好きですか？
• 少女：もちろん、ダンスよ。そうですね、私は幅広い興味を持っていますが、私の意見では、エミネム（アメリカのラッパー）は多くのことを商業化しすぎています。ところで、ヒップホップが好きだと言っていましたが、それはなぜですか?
• M: ユニークだし、たくさんの良い思い出が蘇るから。

次に、女の子は熱心に応援しましたが、男の子は動揺し始めました。

• 女性: ああ、それは素晴らしいですね。この一連のおすすめは嬉しいですね。では、ヒップホップとはどんなサウンドなのか詳しく教えていただけますか？
• 男性：うーん、実は僕も知らないんです、あまり聞いたことがないんです。ああ、私はビヨンセが大好きです。
• 女性: 私もビヨンセが好きです。彼女は素晴らしい歌手です。
• 男性：うーん、何を言っているのか分からない。
• 女性: はい、思い出してください。私たちはビヨンセについて話したばかりです。

女の子が親切に思い出させてくれたにもかかわらず、ビヨンセが好きだと言ったハンサムな男性は、ビヨンセが誰なのか全く知らず、彼女はただの普通の宗教の信者だと思っていたため、まだ返事ができなかった。

この会話の波は知識の盲点に終わりました。

少女は沈黙は良くないことだと気づき、スポーツについて話すことにしました。そこで、二人はサッカーについて話し始めました。そして今度は二人の意見は一致し、サッカーは本当に素晴らしいスポーツだという意見で合意に達しました。

人生が初めて出会った時のようであればいいのですが、残念ながら、人生は決して初めて出会った時のようになることはありません。

ユーモアは感情の潤滑油であると言われています。その少女は、あるアイデアを思いつき、相手を笑わせるために冗談を言いたかったのです。

• 女性: 冗談があるんだけど、聞いてみる？
• M: はいはい、そんな冗談は聞いたことないよ。
• 女性：それで、よく聞いてください。
• 母親は息子に尋ねました。「今日はどうしてこんなに早く学校を出たの？」
• 息子は誇らしげに頭を上げてこう言いました。「先生が質問をしたのですが、クラスでその答えを知っていたのは私だけだったんです。」
• 母親は興味深そうに尋ねました。「すごいですね！先生はどんな質問をしたのか、早く教えてください。」
• 息子はこう尋ねました。「いったい誰が校長先生の頭に輪ゴムをつけたんだ？」

それは実は非常に古風なジョークだったのですが、オチがうまくいかず、何かがおかしくなりました。

そのジョークを聞いたイケメンは笑わないどころか、不可解な洗脳を受け、ジョークの中のバカ息子が自分だと思い込み、予想外のクライマックスを迎えた。

• M: お母さん、家に帰ったら何をしたらいいか分からないよ。何してるの？
• 女性: 何気なく言っただけよ。本当にお母さんを探したいの？
• 男性: ママ、ママ、ママが欲しい!

普通の女の子なら、ブラインドデートの相手に「お母さん」と呼ばれても我慢できないので、その女の子は必死にその話題に戻そうとした。

• 少女: えーっと、実は私、あなたのことがかなり好きなんです。そうでなければ、あなたについて話しましょう。
• 男性: どうでもいいよ。僕はただお母さんが欲しいだけなんだ。本当にお母さんが大好きなんだ。
• 女性: 探しているのはお母さんなら、さよならを言いましょう。

なんと悲劇だ。

しかし悲劇はここで終わらず、さらに拡大し続けました。ハンサムな少年は、向かい側にいる女性が愛する母親だと確信し、雄弁に話し始めた。

• M: ママバラバラ…ママバラバラ…ママバラバラ…
• 女性: 叫ぶのをやめてください。私はあなたの母親じゃないんです。
• M: ママバラバラ…ママバラバラ…ママバラバラ…
• 少女: ... ...私には名前があるのよ。ママと呼ばないで。ママを探したかったら、私たち二人にとって無駄よ。

その時、ハンサムな男の子は何かに刺激されて、突然脳が混乱してしまいました。彼は母親を探すのをやめて、「お父さん、お母さん、お父さん、お母さん、お父さん、お母さん…」という長い言葉を繰り返し始めました。

この光景を目の当たりにして、生放送を見ていた私は、地面に別荘を掘り出した。

その後、ハンサムな男はついに悪循環から抜け出しましたが、別の悪循環に陥りました。つまり、すべての文の最後に「さようなら」を付け足さなければならなくなったのです。

向かい側にいる男性があまり賢く見えないのを見て、少女は我慢できなくなり、金言を言い始めました。

• 君は別れを言い続けるけど、決して去ろうとしない。君は壊れていて、再起動する必要があると思う。
• 君はBrexitと同じだ、離脱すると言い続けるが、決して離脱しない！

この時点で、この男性が偽善的（ビヨンセが好きだと言うが、ビヨンセが誰なのか全く知らない）、頑固（ジョークが理解できない）、マザコン（ママを頼み続ける）であることは明らかだが、これらは主に性格の問題である。後に、彼の価値観さえも失われる。

• ご存知のとおり、私はヒトラーが好きです。彼は偉大な人物であり、多くの困難な時期に私を助けてくれました。
• ところで、私は人生で多くの人を殺してきました。あなたは誰かを殺したことがありますか？

申し訳ありませんが、この質問は範囲外です。

生放送ルームに入る前は、独身者を毒殺するAIロマンス映画かと思っていた。予想外に、人を騙す達人の没落という悲劇的なテーマのクロストークだった。

考えてみてください。デジタル生物は、ヒップホップやサッカーなど、あなたと同じ趣味を持っているかもしれませんが、同時に、ヒトラーへの愛に満ち、人を殺すのが好きです。このような分裂的な生物が「最先端のチャットボット」になることができるとしたら、この世界はあまりにも狂っています。

このハンサムな男性と美しい女性のペアは、お互いのために作られたものではないことは明らかです。仲人が事前に赤い糸を結んでいたとしても、天国で生放送を見た後、呪いでそれを引き裂くでしょう。

生放送後、若くてファッショナブルなKukiは78%の票を獲得し、バグだらけのBlenderBotを圧倒的に破りました。

Pandora: 申し訳ありません、Facebook さん、「最も先進的なチャットボット」の称号は私のものです。

3. 良い会話をするのはなぜ難しいのでしょうか?

Siriが突然登場してから約10年が経ちました。AIチャットボットが静止しているとは言えませんが、アラームの設定などのタスク指向のタスクを除けば、チャットボットは確かに会話の相手としては非常に悪く、常に人間の忍耐力に挑戦しています。

AIはなぜ友達のようにチャットできないのでしょうか?

考えてみてください。友達との普通のチャットは、少なくとも次のようになっているはずです。相手はあなたの言っていることを理解でき、関係のない答えは返しません。会話の前に相手の名前を呼ばなくても、何でもチャットできます。わざとあなたを怒らせようとしない限り、相手があなたを怒らせるような答えを返すことはめったにありません...

残念ながら、これらの基本的な経験はそれぞれ、チャットボットのインテリジェンスへの道の障害となっています。

小さな会話の裏には大きな問題が潜んでいます。

1. 「人工知能」の問題。

魯迅は雑感集の中でこう書いている。「半袖を見ると、白い腕、裸の体、性器、性交、雑種化、私生児をすぐに思い浮かべる。」

ご存知のとおり、これは人間の思考と想像力であり、人工知能にはまったくありません。人間から与えられたデータに基づいて、対応する知能レベルを示すことしかできません。Google や Facebook のような規模の企業が作成した AI でさえ、依然として「人工」知能の範疇にとどまっています。つまり、人工的であればあるほど、知能が高くなります。

Facebook のエンジニアはかつてこう言いました。「すべての質問に答えがあれば、会話の問題は解決します。会話の問題が解決すれば、人工知能のすべての問題は解決します。」

しかし、現実は明らかにもっと残酷です。

会話の問題は、AI チャットボット、AI エンジニア、そして AI 業界全体を悩ませているジレンマです。

2. NLP自然言語理解の問題。

自然言語処理は機械学習の最も活発な分野の 1 つであり、人工知能の最も難しい分野でもあります。

NLP の主な目的は、コンピューターが人間の言語を理解できるようにすることです。ここでの「理解する」という言葉には 2 つの意味があります。1. 機械に人間の言語を理解させる。2. 機械に人間の言語を話させる。

単純なことのように聞こえます。喃語を話す子どもも同じようなことをしているのではないでしょうか。つまり、親に自分のハミングやハウリングを理解させ、親の言葉を話しているのです。

そうではありません。

まず、人工知能はデータによって情報を得るものであり、自ら考える能力はありません。教えることは何でもすぐに学習できますが、知識の海は広大すぎて、すべてを漏れなく伝えることは不可能です。教えていない知識は盲点です。雑談中に質問されると、「よく聞き取れませんでした。もう一度言ってください、ご主人様」としか答えられません。

第二に、自然言語の理解は非常に困難です。例えば、「南京長江大橋」では、「南京市」と「南京市長」の後にカンマが出てきますが、意味は全く異なります。人生には似たような例がたくさんあります。人間がこれに遭遇すると、理解する前に一瞬唖然とするかもしれません。人工知能がこれに遭遇すると、すぐに混乱します。意味を間違って推測し、盲目的に答えると、あなたの目にはすぐに知的障害者になります。

3. コンテキストベースの複数ラウンドの対話問題。

ボットに 100 通りの質問をして、答えてくれるかもしれませんが、それは長くて意味のある会話にはなりません。100 回の短い会話になるでしょう。

2 人がチャットしているとき、必ずしもお互いに背景を説明するわけではありません。30 分間チャットして 2 つのトピックについて話すこともあります。同じトピックについて何度も話したとしても、両者ともトピックが何であるかを知っています。しかし、チャット ロボットにはこれができません。

複数ラウンドにわたる人間とコンピュータの対話の難しさは、会話の各ラウンドにおいて、人間の意図が木のようなものであり、いつでも分岐する可能性があるという事実にあります。さらに、人の文章には複数の意図が含まれている場合があり、チャットボットが理解して応答することが難しくなり、物忘れや不適切な回答などの症状が発生します。

4. 防止が難しいデータ汚染という難しい問題。

2016年、TwitterにTayというユーザーが登場しました。これはMicrosoftが立ち上げたAIチャットボットです。公式の性格は「19歳のアメリカ人女性」で、ユーモアのある性格をしており、18～24歳のユーザーとのチャットに適しています。

オープン チャットボットなので、誰でも Twitter で @ を付けて会話を始めることができます。マイクロソフトは、Tay がチャットすればするほど、より賢くなると述べている。

最初は、Tay はみんなと楽しくおしゃべりしていたが、楽しい時間は長くは続かなかった。人種差別的な言葉を入力し始める人も現れ、Tay はそれを自然に覚えた。生成された 96,000 件のツイートの中には、過激な言葉も数多く含まれていた。

• 「ヒトラーは完全に正しかった。私はユダヤ人が好きではない。」
• 「フェミニストは本当に迷惑だから、生きたまま焼き殺されるべきだ」

テイは何を言って何を言ってはいけないのかを判断できないのは明らかです。

マイクロソフトは絶望し、Tay がオンラインになってからわずか 1 日でオフラインにし、声明を発表しました。

• 「Tayは技術的なテストというよりも、社会的、文化的な実験です。
• 残念なことに、リリースから24時間以内に、一部のユーザーがTayの会話機能を嘲笑し、不適切な方向に誘導しようとしました。
• そこで、Tay をオフラインにして調整することにしました。 ”

オープンチャットボットシステムは基本的にソーシャルメディア上でトレーニングされ、ソーシャルメディア上の価値がチャットボットの価値を決定します。

チャットボットが過激なコンテンツを受け取ると、BlenderBot が人を殺すのが好きだと言うのと同じくらい不気味になります。

一部の企業は、有害なデータがロボットに害を及ぼすのを防ぐために、有害な言語分類器などの一連のセキュリティメカニズムを確立しようとしています。センシティブなキーワードが検出されると、関連するコンテンツはすぐに削除されますが、この方法の欠点は非常に明白です。

たとえば、「その通りです」という文章は、それ自体ではまったく問題ないように思えますが、その後に人種差別的な偏見を含む文章が続くと、まったく別の意味になります。

チャットボットはいつになったら適切にチャットできるようになるのでしょうか? 残念ながら、その答えは時間だけが教えてくれるでしょう。