マイクロソフト CEO ナデラ氏へのインタビュー: 人工知能の全体的な方向性と将来はどのようなものでしょうか?

人工知能の将来はどうなるのでしょうか?どのような方向に発展していくべきでしょうか？開発プロセス中に注意すべきことは何ですか?これらは、科学技術の発展に注目するすべての人が考えている疑問です。最近、O'Reilly Mediaの創設者兼CEOであるティム・オライリー氏が、Microsoft CEOのサティア・ナデラ氏とのインタビューに関する記事をLinkedInに掲載しました。この記事では、人工知能の全体的な方向性と将来について語り、人工知能の発展で生じる問題について独自の意見を述べました。この記事は36Krによって翻訳されました。

[[205452]]

私は今年4月にサティア・ナデラ氏に会い、私の新著『WTF? 未来はどうなるのか、そしてなぜそれは私たち次第なのか』（訳者注：2017年10月10日発売）のためにインタビューしました。しかし、この記事で私が論じたいことのほとんどは、私の本についてではなく、サティアの回想録『Hit Refresh: The Quest to Rediscover Microsoft’s Soul and Imagine a Better Future for Everyone』についてです。

私たちは皆、テクノロジーの発展に楽観的であり、人工知能によってもたらされる課題は、私たちと社会が真に人間であるとはどういうことかを定義することであると固く信じています。将来は、AI が人間の有用性を低下させるのではなく、人間の能力を強化し拡張する世界になるでしょう。それが私たちの会話の基礎です。

ティム: あなたの著書には、AI がもたらす課題は壮大で刺激的な社会的目的を定義することだと書かれていますね。あなたはこう書いています。「1969年、ケネディ大統領はアメリカ人に月面着陸を約束させました。この目標は、膨大な技術的課題とそれに必要な世界的な協力のおかげで達成されました。同様に、AIについても、既存の技術を改良することで達成できるものを超えるほど大きな目標を設定する必要があります。」私はこのアイデアがとても気に入ったので、さらに詳しく説明していただけないでしょうか。

サティア：「わあ、視覚障害者が見えるようになったり、失読症の人が読めるようになったり。」と言ったら、それは本当に画期的なことです！そして、特に AI が世界にもたらす可能性のある大きな変化について話しているとき、「AI はついに真に包括的なテクノロジーになりつつある」と言えるということは、本当に意味のあることだと思います。代わりに、私たちは AI を誘導して、社会への真の包摂と完全な参加を実現することができます。

これらのアイデアの多くは、私の子供たちの経験から生まれたものです。なぜなら、私には「閉じ込められた」特別な支援が必要な子供がいるからです。私はいつも「もし彼が話せたら！」と思っていました。だから誰かが「脳とコンピューターのつながり」について話すと、「わあ、それで何ができるか考えてみてください！」と言います。

私たちがこのような技術を生み出している世界では、「これは究極の技術だ」とさえ言えるかもしれません。これは超知能への道であり、私たちを導く設計原理がすべてであり、私たちを導く道徳哲学がすべてです。ある意味で、私たちが下さなければならない最大の経路依存的決定は、「誰がスーパーインテリジェンスを設計するのか？」ということになるでしょう。

ティム: 私の本の章の一つに「私たちのスカイネットの瞬間」というタイトルがあります。私が言いたいのは、AI に関してあまり語られていない側面の一つは、それが集合知になる可能性があるということだ。私たちは、検索エンジン、ソーシャル メディア、金融市場を活用した集合知のメカニズムを構築しています。そして、私たちが話しているこれらの人工知能は、人々の利益を最適化するように設計されていることを示しました。

サティア：その通りです。さまざまな認知バイアスがあるにもかかわらず、人間には大きな利点があります。ハーバート・サイモンが言ったように、最適化をやめれば私たちは満足します。これは実際に役に立ちます。そこには、私たちが共有する道徳的基盤によってもたらされる満足感があります。さて、「これは最適化すべき問題だ」、つまり人工知能だと言うと、解決すべき問題が出てきます。

ティム: 人間の能力、経験、知能を拡張することについてもお話しいただきました。あなたは、創造性、共感、感情、身体性、洞察力など、人工知能と組み合わせることができる人間の才能に焦点を当てたいとおっしゃいました。

サティア：「AI」がたくさんあると仮定すると、希少なのは本物の知性です。するとあなたは言うでしょう、「本当の知恵とは何ですか？」

真の知恵は、思いやりと共感という最も人間的な性質の中に見出され、それが最も重要なものとなるでしょう。実際にそれを機械に組み込む方法を理解する前に、それを人間と組み合わせる必要があります。

教育が人間にどのような影響を与えるべきかについて考えなければなりません。 AI では、フーリエ変換を学ぶ必要は実際にはないかもしれません。マインドフルネスを養うことに取り組むこともできますし、思いやりを養うことに取り組むこともできます。それが私が言いたかったことです。誰もが執着心を持っており、誰もが教育を必要としているというのは事実です。しかし、私たちはSTEM（科学、技術、工学、数学）を過度に重視しているのでしょうか？

ティム：私のキャリアを通じてずっと影響を与えてきた概念があります。それは、クレイトン・クリステンソン（現在活躍している最も影響力のあるビジネス理論家の一人）がかつて言った「魅力的な利益保存の法則」と呼ばれるものです。これは、もともと非常に価値があったものがコモディティ化されると、その隣にあるものが突然価値を持つようになるというものです。私がこれを初めて聞いたのは2004年頃でした。彼と私は同じ会議で講演しました。私の講演では、Microsoft が IBM に取って代わった経緯についてお話ししました。PC ハードウェアはコモディティ化し、ソフトウェアは価値あるものになりました。私が言いたいのは、オープンソースによってソフトウェアがコモディティ化され、他のものが価値あるものになるということです。最終的に、この「何か他のもの」とはビッグデータであることに気づきました。クレイは高利益保存の法則についての考えを話していましたが、私は「私たちは同じことを話している」と気づきました。この法則は人工知能にも完全に当てはまります。人間の認知の機械的な部分が AI によってコモディティ化されるにつれて、人間特有の部分がより価値を持つようになるでしょう。

サティア：それはいい言い方ですね。

ティム：つまり、未来の経済には、思いやりと創造性に基づいたチャンスがたくさんあるということですね。クリエイティブ経済は単なる芸術や文化にとどまりません。製品が日用品になるたびに、私たちはそれを人間の創造性と組み合わせることで価値あるものにする新しい方法を見つけます。

サティア：実際のところ、それは基本的に私たちの執着ですよね？マインクラフト世代、あるいはスナップチャット世代とでも言うべき世代を見ると、私にとってこの世代の最も刺激的な点は、創造と物語の語り方に対するクレイジーな考え方です。 Minecraft では、男の子も女の子も同じように、存在しない、自分たちの想像の世界だけを創造します。

これが私が築き上げたい世代です。最新の Windows バージョンでも同様です。私たちは、1億人が毎日使用している製品であるMicrosoft Paintを採用し、「3D作成のための本当に素晴らしいクリエイティブキャンバスを作ろう」と言いました。なぜなら、拡張現実と複合現実の世界では、まさにそれが起こるからです。

ティム: 大量のデータを処理し、パターン認識をより高速に実行する機能についてもお話しいただきました。人工知能の発展においては、ある種の創造性が表現されます。 AI が創造性を高めるプロセスをどのように見ていますか?そして問題を解決するための創造的な方法を考え出します。

Satya: 従来のライティング ツールは、スペル、文法、フレーズの修正のみを支援していましたが、現在は人工知能が追加され、完全なライティング支援ツールになっています。 「フォークナーのように書きたい」と言うと、「こうすればいい」と教えてくれるようになるところまで来ています。

私はライティングスクールには通わず、工学部だけに通っていましたが、偉大な作家になることを夢見ており、このような AI の助けが必要でした。

私がこれを実現できたのは、中国の会話型ロボット XiaoIce と、それについて人々が行っている議論、そして一定期間内に尋ねられたトピックや質問の数を調べたからです。それは人々が話し合う必要があるからです。人々は自分の最も深い考えを表現しています。 「すごい、これが AI が共感できるところなんだ」と思いました。

ティム：AIが第3のランタイムになるというアイデアについては以前にも話しました。この問題とそれがどのように起こったのかについて議論しましょう。

Satya: 前回このことを議論したとき、私はこう言いました。「PC や携帯電話のオペレーティング システムが最初のランタイムであり、2 番目はブラウザーとネットワーク、3 番目は、ユーザーを理解し、世界を理解し、環境を理解し、ユーザーを支援するパーソナル アシスタントを使用することです。」

そして私たちは、「考え、感知し、最終的に行動を起こすことをすべて同時に行うのであれば、これら 3 つのランタイムが存在する」と言いました。このアシスタントは本質的に、音声と視覚が 1 つとなり、直接行動を起こすことができる、心の延長、知覚の増強を体現しています。それは究極の実行時間ですよね？

だからこそ、私の本では、次の 3 つのことについて書くようにしています。

1) 究極のコンピューティング体験とは何でしょうか?究極のコンピューティング体験とは、現実世界とコンピューティングが融合したものです。これは複合現実です。

2) これには、人工知能の知覚、認知、行動におけるブレークスルーが必要になります。

3) それから私は少し話が逸れて、「そのような計算能力を生み出したいのであれば、フォン・ノイマン・アーキテクチャと古典的な計算の制約から解放されなければなりません」と言いました。

量子コンピュータについて話してもいいですか？これは私が書いた3番目のものです。

ティム: あなたの本の中で量子コンピューティングがこれほど大きなスペースを割かれているのには、少し驚きました。

サティア：進歩は現実です。つまり、私たちはすでに進歩の真っ只中にいるのです。問題は、これがどれだけ早く現実になるかだ。わからない。しかし、もはや「わあ、そんなことが可能なの？」という話ではありません。

ティム: あなたの本の中で非常に重要な一文は、「私たちが求めているのは、知的な機械だけではなく、理解する機械です」です。これは現在、人工知能に関して人々が抱いている大きな懸念であり、彼らがどのようにして結論にたどり着くのか、私たちにはよく分からないのではないかということです。もちろん、これは人間にも当てはまります。私たちは人間の心の理性的な側面だけに焦点を当てる傾向があるため、自分たちにはまったく理解できないことをどれほど多く行っているかに気づきません。つまり、これは合理主義者の最後の叫びであると言えるでしょう。

サティア：もちろんです。しかし、リスクを回避する方法は2つあります。一つ目は説明責任です。 「デザイナーとして人工知能を開発し、責任を負わなければならないとしたら、何が起こるでしょうか？」Tay の経験全体が、私たちの考え方に大きな影響を与えました。実際、これは非常に多くの人がこれをターゲットにし、アルゴリズムを乗っ取る可能性のあるトレーニング データを提供しているため、非常に無謀な行為です。これは誰の責任ですか?それは私たちのものだと断言します。これは私たちの責任です。

ティム: そうですね、明らかにそれは Facebook とフェイクニュースの問題です。自動運転車を騙す方法について、セキュリティ研究者と非常に興味深い会話をしました。視覚的な領域で誤解されるようなものを作成して、彼らをハッキングするにはどうすればよいでしょうか?しかし、現実の社会では、あらゆる種類の敵対的な介入が起こります。さらに強力な人工知能を設計する必要もあります。

Satya: 「ああ、人間にとって、これらの DNN (ディープ ニューラル ネットワーク) は魔法のようなものです。それらはただ何かを実行しているだけで、私たちはそれを知りません」と言う人がいますが、その発言の背後には真実があることには同意します。しかし、レイヤーの数や重みの選択など、学習プロセスでは人間が多くの決定を下します。私たちは自分たちが作ったアルゴリズムをすぐに放棄すべきではなく、アルゴリズムが下す決定に責任を持つべきです。おそらく私はこう言うでしょう。「では、人工知能におけるプログラミングの倫理とは何でしょうか？」

注: インタビューは編集されています。