チューリングは71年前にニューラルネットワークを提案しました。 「インテリジェントマシン」が再び白熱した議論を巻き起こす

[[269208]]

チューリングは 1948 年に「インテリジェント マシン」と題する論文を執筆し、遺伝的アルゴリズム、ニューラル ネットワーク、強化学習など、現在では人工知能の中核となっている多くの概念について説明しました。電子計算機のない時代に、チューリングは紙と鉛筆を使ってこの画期的な研究を行いましたが、これは今日でも話題になっています。

1948 年にアラン・チューリングが人工知能におけるコネクショニズムの多くを概説した「インテリジェント・マシナリー」という論文を書いたことを知る人はほとんどいません。

この論文はチューリングがロンドンの国立物理学研究所で働いていたときに書かれたものだが、上司からは認められなかった。当時の研究所所長サー・チャールズ・ダーウィンはそれを「学生の論文」と呼び、その「みすぼらしい」見た目についてチューリングに苦情を述べた。

実際、この先見の明のある論文は人工知能の最初の宣言書でしたが、残念なことにチューリングはそれを公表しませんでした。

この論文で、チューリングはコネクショニズムの基本原理を解説しただけでなく、遺伝的アルゴリズムや学習機能を備えたニューラルネットワーク（チューリングはこれを「非組織化マシン」と呼んだ）、さらには強化学習のアイデアなど、後に人工知能の中核となる多くの概念を鮮やかに紹介した。もちろん、これらの概念は、他の人によって再発明されて初めて中核的なものになりました。

チューリングは論文の要約で次のように書いている。

この記事では、機械にインテリジェントな動作を行わせるための可能な方法について説明します。基本原理は人間の脳との類似性です。この記事は、適切な教育を提供することによってのみ、機械は人間の知能の潜在能力を実現できると主張しています。この研究は、機械に適用される同様の教育プロセスに焦点を当てています。非組織化機械の概念を定義し、幼児期の人間の大脳皮質がこの特性を持っていると提唱した。この記事では、そのようなマシンの簡単な例を示し、報酬と罰による教育について説明します。あるケースでは、教育プロセスは ACE と同様に組織化されるまで継続されます。

(注: ACE は、チューリングが設計した初期の電子コンピュータである Automatic Computing Engine を指します。)

[[269209]]
アラン・チューリング

チューリングはこう言った。「私は、機械が知的な行動をとることが可能かどうかという問題を研究することを提案します。」人々はしばしば、これは不可能だと当然のことと考えています。 「機械のように行動する」や「完全に機械的な行動」といった一般的な表現は、この一般的な態度を明らかにしています。

チューリングの1948年の論文が議論を巻き起こす：脳の理解に執着した男

この論文はReddit上で活発な議論を巻き起こした。

誰かがコメントしました: このような論文は、今日ではほぼすべての「***」AI カンファレンスやジャーナルで拒否されるでしょうが、その簡潔さと率直さ (そして正直さ) には感謝していると言わざるを得ません。これはチューリングの時代には非常に重要なことでした。その瞬間に編集者が最初に考えることは、「これはどれくらい引用されるだろうか？」ということではありません。

ある人はこうコメントしました: 長期的には学際性が正しい道だと思いますが、利用可能なコンピューティングとデータの量、そして未解決の領域や問題を考慮すると、実験と力ずくの使用によって、ある程度の結果を得ることができます。これは哲学のバックグラウンドを持つ人にとって非常に良い読み物です。

他にも的確なことを言っている人がいました。この人 (チューリング) は実は脳の働きをより深く理解することに執着しているのです。

Google Brain の研究科学者 Divid Ha 氏は、この論文を推薦しました。チューリングは 1948 年に、進化を利用して特殊なタイプのニューラル ネットワークを「トレーニング」することを提案しました。彼はこれを「タイプ B の無秩序なマシン」と呼びました。彼は当時、さまざまなタスクを実行するためにバイナリ ネットワークを開発しました。

チューリングは先見の明のある人物でした。彼はそのようなメカニズムに必要な複雑さを理解していました。私たちの「ディープ ネットワーク」は、情報処理の複雑さという点では極めて浅いものです。任意の長さの分岐ドミノ チェーンの結果を推論することさえできません。

それで、チューリングの革命的な論文は何についてのものだったのでしょうか?新しい知恵は解釈をもたらします:

チューリングは「非組織化機械」を提唱した：赤ちゃんの大脳皮質との類似性

この論文でチューリングは「非組織化機械」という概念を提唱した。彼は、人間の乳児の大脳皮質は「非組織化機械」であり、適切な干渉訓練によって組織化できると信じていた。

チューリングは、非構造化マシンを、最初はほぼランダムな構造を持つが、特定のタスクを実行するようにトレーニングできるマシンと定義しました。

実際、チューリングの無秩序なマシンは、ランダムに接続された初期のニューラル ネットワーク モデルであり、実際のニューラル ネットワーク システムに関する最も単純な推測の 1 つです。

チューリングは2種類の非組織化マシンを定義しました。 1 つ目はタイプ A マシンです。これらは基本的にランダムに接続された NAND ロジック ゲートのネットワークです。

2 番目のタイプはタイプ B マシンと呼ばれ、タイプ A マシンの構造を使用し、接続修飾子と呼ばれる構造を使用して各ノード間の接続を置き換えます。接続修飾子の目的は、B 型マシンが「適切な干渉と模倣教育」を受けられるようにし、ネットワークの動作を整理して有用な作業を実行できるようにすることです。

B 型非組織化マシンは、下の図の円で示すように人工ニューロンで構成されたニューラル ネットワークであると言えます。接続修飾子は、下の図のボックスで示されます。

B型ネットワークの2つのニューロン

「遺伝的アルゴリズム」という用語が作られる前、チューリングは「遺伝的検索」と名付けたメカニズムを使用して非構造化マシンを構成することを提案していました。

チューリングは、ネットワーク内のノードの数が多い場合、タイプ B マシンの動作は非常に複雑になる可能性があると考え、「進化と遺伝学の観点から、大脳皮質を非組織化されたマシンと見なすのは完全に理にかなっている」と指摘しました。

チューリングのニューラルネットワークの仕組み

上の図に示すように、各ニューロンには 2 つの入力があり、ニューロンの出力は 2 つの入力の単純な論理関数です。ネットワーク内の各ニューロンは、「 NAND 」と呼ばれる同じ論理演算を実行します。

Nand の定義を次の表に示します。

割り込みモードでは、接続修飾子の出力は常に 1 になります。したがって、ニューロンへの入力接続の 1 つがブレーク モードの接続修飾子を通過すると、ニューロンの出力は 2 番目の入力の正反対 (または「ブール否定」) になります。

たとえば、表の最初の 2 行は、割り込みモードで INPUT-1 が modifier に接続された場合に何が起こるかを示しています。この場合、ニューロンの出力は INPUT-2 と逆になります。

チューリングは、他の論理演算 (またはブール演算) をすべて NAND ニューロンのグループで実行できるため、モデル ニューロンの基本演算として NAND を選択しました。チューリングは、接続修飾子自体も NAND ニューロンで構成できることを示しました。したがって、各タイプ B ネットワークは、NAND ニューロンとそれらの接続で構成できます。これは大脳皮質の最も単純なモデルです。

以下は、チューリングが「ランダム選択」と表現したタイプ B の無秩序なマシンの例です。

このネットワークがどのように動作するかわかりますか?

ニューロンが自由に相互接続された、より大きなタイプ B ネットワークの例を次に示します。

大規模な初期ランダムB型ネットワークの一部

電子計算機のない時代に、紙と鉛筆で脳をシミュレートする

脳内のニューロンの出力の多くは、直接、または中間のニューロンチェーンを介して、ニューロン自体の入力に接続できます。

神経科学者は長い間、脳のフィードバックの重要性と普及を強調してきました。たとえば、脳はフィードバックを利用して、他の認識を排除するのではなく、特定の認識に集中できるようにします。ステファン・トルーエとジョン・マウンセルは最近、サルがコンピューター画面上で独立して動く複数の点のうちの1つに注意を集中すると、高次皮質のニューロンから動きを認識する低次皮質領域のニューロンにフィードバックが返されることを示した。

このフィードバックは、非参加点の動きに反応するニューロンの活動を抑制する働きをします。しかし、脳におけるその重要性にもかかわらず、フィードバックは現代のコネクショニスト ネットワークではほとんど使用されていません。対照的に、タイプ B ネットワークのニューロンは互いに非常に自由に接続されており、脳と同様に、大規模なネットワークはフィードバックに満ちていることがよくあります。

チューリングは大脳皮質のより複雑なモデルを研究したいと考えていました。彼は、現代のコネクショニストが実現できること、つまり、通常のデジタル コンピューターを使用してニューラル ネットワークとそのトレーニング スキームをシミュレートすることを目指しました。

同氏は「この制度を相当の期間運用し、その後、ある種の『学校査察官』として介入し、どのような進展が見られるかを見極める」と述べた。しかし、ニューラル ネットワークに関する彼の研究は、最初の汎用電子コンピュータが使用されるようになる前に、紙と鉛筆だけを使って行われたものでした。

その後、彼は現在人工生命と呼ばれているものの研究に関心を向けました。チューリングが亡くなった 1954 年になって初めて、BG ファーリーと W.A. クラークが MIT で小規模なニューラル ネットワークの最初のコンピューター シミュレーションに成功しました。

チューリングの原論文:

参考文献

解釈：

http://www.alanturing.net/turing_archive/pages/Reference%20Articles/connectionism/Turing's%20neural%20networks.html