何世紀にもわたり、人類は脳がどのように機能し、どのように情報を獲得するかを理解しようとしてきました。神経科学者は現在、脳のさまざまな部分がどのように機能し、どのような機能を持つかについて十分に理解していますが、まだ答えが出ていない疑問が数多く残っています。したがって、統一された神経科学理論はまだ欠けている。 近年、コンピューター科学者は、人間の脳の機能とプロセスを人工的に再現できる計算ツールの作成に取り組んでいます。 カナダのレスブリッジ大学の研究者らは最近、個々のニューロンがどのように学習し未来を予測するかを調査する研究を行った。個々のニューロンが将来の活動を予測する能力が、学習のための新しいメカニズムを提供できる可能性があることを示した。 研究結果は「ニューロンは将来の活動を予測することで学習する」というタイトルで2月25日にNature Machine Intelligenceに掲載された。 「神経科学は今や、ダーウィン以前の生物学と同じ段階にある」と、この研究に参加した研究者の一人、アルトゥール・ルチャック氏は語った。 「詳細な観察は無数にありますが、それらすべてを結びつける単一の理論はありません。したがって、神経科学の大きな課題の 1 つは、脳の働きを説明する統一原理を見つけることです。私たちの研究は、この探求に貢献することを目指しています。」 脳が使用する学習アルゴリズムをより深く理解することが、脳機能の統一理論を開発する上で中心的な役割を果たす可能性があります。脳の学習メカニズムを研究するには、主に 2 つのアプローチがあります。(1) 実験的アプローチでは、特定の介入によって神経活動の持続的な変化が誘発されます。(2) 計算的アプローチでは、選択されたターゲットの生物学的制約を満たしながら、特定の計算目標を達成するためのアルゴリズムが開発されます。 この論文では、研究者らは理論的導出のさらなる選択肢(3)を検討しており、学習規則は基本的な細胞原理、すなわち細胞の代謝エネルギーの最大化から導出されている。 脳が予測システムとして機能していることを示すさまざまな証拠があります。しかし、脳内で正確な予測コーディングがどのように達成されるかについては依然として論争が続いています。提案されているモデルのほとんどは予測回路を前提としていますが、研究者らはニューロン内に内部予測モデルがあるという代替案を提案しています。予測学習ルールを使用する単一のニューロンが、さまざまな予測脳を構築するための基本単位を提供できる可能性があることが示唆されています。 興味深いことに、研究者らが提案した予測学習ルールは、時間差学習アルゴリズムを修正して生物学的により妥当なものにすることでも得られる。時間差分学習は、バックプロパゲーションのようなアルゴリズムを脳に実装する方法に関する最も有望なアイデアの 1 つです。これは、ニューロン活動の違いを利用してトップダウンのエラー信号を近似することに基づいています。このようなアルゴリズムの典型的な例は、対照ヘブビアン学習であり、これは特定の仮定の下でバックプロパゲーションと同等であることが示されています。 図: アルゴリズムの基礎。 (出典:論文) 予測学習ルールと対照ヘブビアン学習 対照ヘブビアン学習アルゴリズムでは、ネットワークが 2 つの別々の学習フェーズで定常平衡に収束する必要があるため、まったく同じ刺激を 2 回提示する必要があります。しかし、実際の脳ではそうはならない可能性が高いです。ここで研究者らは、皮質感覚処理にヒントを得て、2 つの活動段階を 1 つに組み合わせることでこの問題に対処することを提案しています。 ここでの新しい洞察は、初期のボトムアップ活動はニューロンが自由相活動の定常状態部分を予測するのに十分であり、予測された自由相とクランプ相の間の不一致はティーチング信号として使用できるということです。 ニューロンが将来の自由期活動を正しく予測できることを確認するために、研究者らはサンプルニューロンを注意深く研究した。この研究では、予測学習ルールがうまく機能し、各ニューロンが将来の活動を正確に予測していることが示されました。 図: 予想される活動のニューロン予測。 (出典:論文) さらに、予測学習ルールは、生物学的ニューロン ネットワークの他の側面を反映するように設計された複数の他のネットワーク アーキテクチャでテストされました。私たちの研究は、提案された予測学習ルールが、さまざまな生物学にヒントを得たネットワーク アーキテクチャでうまく機能することを示しています。 図 1: 多層畳み込みニューラル ネットワークでの予測学習ルールの実装。 (出典:論文) 覚醒した動物における予測学習ルールの検証 実際のニューロンが将来の活動を予測できるかどうかをテストするために、研究者らは覚醒したラットの聴覚皮質からのニューロン記録を分析しました。刺激として、それぞれ 1 秒間の音と 1 秒間の沈黙を挟んだ 6 つの音が 20 分以上連続して繰り返されました。 6 つのトーンそれぞれについて、平均開始応答と終了応答が個別に計算され、各ニューロンに 12 の異なる活動プロファイルが提供されました。各刺激について、15~25 ミリ秒の時間ウィンドウの活動を使用して、30~40 ミリ秒のウィンドウの平均的な将来の活動を予測しました。 図: 皮質ニューロンの将来の活動を予測する。 (出典:論文) この研究では、ニューロンには予測可能なダイナミクスがあり、初期のニューロン反応から将来の活動を予測できることが示されました。しかし、皮質活動の長期的な変化を予測することで、学習規則を支持するより強力な証拠が得られました。重要なのは、提案されたモデルに基づいて、どの個々のニューロンの発火率が増加し、どのニューロンの発火率が減少するかを推測できることです。 図: モデルおよび皮質ニューロンにおける神経活動の長期的な変化。 (出典:論文) この研究は、神経科学と機械学習の分野に多くの興味深い影響を与える可能性があります。全体的に、彼らの研究結果は、個々のニューロンの機能をサポートする予測メカニズムが学習において重要な役割を果たす可能性があることを示唆しています。 「将来的には、このアイデアは、現実の困難な問題を解決するために、より強力な人工ニューラルネットワークを構築するのに役立つかもしれない」とルチャック氏は語った。 「私たちが発表した予測学習ルールは、脳の統一理論を見つけるための重要な一歩だと信じています。しかし、この目標を達成するにはさらに多くのステップが必要であり、私たちはこの旅を続けることに興奮しています。」 論文リンク: https://www.nature.com/articles/s42256-021-00430-y |
<<: 南極の氷床データセットは火星ほど良くない?スタンフォード大学の研究者はドローンと機械学習を利用して、最も価値のあるデータを発掘することに取り組んでいる。
>>: 自己回帰デコードが64倍高速化、Googleが新たな画像合成モデルMaskGITを提案
[[422916]] Python 中国語コミュニティ (ID: python-china) 1....
7月13日、スタンフォード大学の研究者らは、英語を母国語としない人が英語の語彙力を十分持っていない...
教育省は最近、「高等教育機関における人工知能イノベーションのための行動計画」を発行しました。計画によ...
大規模言語モデル (LLM) の開発と応用により、人工知能の分野で LLM ベースの自律エージェント...
[51CTO.com からのオリジナル記事] 近年、AR は常に資本追求の焦点となってきました。 ...
9月28日早朝、Meta Connect 2023において、MetaはMeta AIという新しいチャ...
ICML は、International Conference on Machine Learni...
[[263771]] 5Gの進歩に伴い、コスト面でも速度面でも、中国の5Gなしでは5Gを推進するの...
[[401713]]この記事はAI新メディアQuantum Bit(公開アカウントID:QbitA...