パーセプトロンの物語: 機械学習はどのようにして今日の地位に到達したのでしょうか?

[[352089]]

人工知能は今、巷で話題になっています。企業は顧客やターゲットユーザーを引き付けるために、製品を生み出したりソリューションを提供する際に、機械学習（ML）やディープラーニング（DL）などの派手な用語を常に使用します。しかし、実際には、これらの言葉は単なる「仕掛け」以上のものです。

過去数十年にわたり、実用的な問題を解決できる人工知能アプリケーションが次々と登場し、世界的な現象となっています。私のように機械学習を一生懸命勉強している人は何百人もいます。私たちの指導者であるアンドリュー・ン氏はこう言っています。「100年前、電気の発明がすべてを変えました。そして今、今後数年のうちに人工知能によって変化しない産業を想像するのは難しいです。」

大手テクノロジー企業は、技術開発の主流のトレンドを理解しており、遅れをとるリスクを負う余裕がないため、すべてコンピューター革命に適応してきました。機械学習は大きな発展の可能性を秘めています。開発者であり、技術レベルを向上させたい場合は、できるだけ早く学習を始めることをお勧めします。

人工知能はすでにすべての主要産業に大きな変革をもたらしています。人工知能と機械学習は、医療、神経科学、農業、セキュリティ、監視などの分野で無数の分野横断的なアプリケーションがあり、私たちの生活に欠かせないものになっています。しかし、すべてはどのように始まったのでしょうか? パーセプトロンが発明された数十年前まで遡る必要があります。

パーセプトロンの物語は 65 年前に始まりました。この物語を語る前に、まず「パーセプトロン」の定義を簡単に理解しましょう。パーセプトロンは、生物学的ニューロンの単純な人工モデルであると同時に、教師あり学習のための単層ニューラル ネットワーク アルゴリズムでもあります。入力値、重みとバイアス、および活性化関数で構成されます。

単一センサーデバイス

しかし、この記事では技術的な詳細については触れず、まずはストーリーを語り始めましょう。

パーセプトロンの台頭

ニューラル ネットワークの基本的な構成要素であるパー​​セプトロンは、1957 年 1 月にニューヨーク州バッファローのコーネル航空研究所のフランク ローゼンブラットによって発明されました。この発明は、「パーセプトロン：知覚と認識を行うオートマトン」という論文の研究成果です。

Merriam-Webster では、オートマトンを次のように定義しています: 事前に決められた一連の操作を自動的に実行したり、コード化された命令に応答したりするように設計された機械または制御機械。

5年を要したこの研究は、複雑なパターンの学習、パターンの認識、一般化が可能な電子脳モデルを設計することを目的としていた。その背後にある直感は、知覚、概念の形成、経験の一般化、複雑な情報パターンの認識、異なるサイズ、形状、方向の類似オブジェクトの区別など、人間のような機能を備えたデバイスを構築することです。

ニューロン細胞 - brgfx ツールで作成された背景ベクトル | 画像ソース: freepik ライブラリ

しかし、上記の操作を実行するには、従来のコンピュータ システムでは数千、あるいは数百万ものパターンを保存し、必要に応じてこれらのパターンから未知のパターンを検索して識別する必要があります。この手順は計算負荷が非常に高く、パターンやオブジェクトを識別するための経済的な方法ではありません。

この問題を解決するために、フランク・ローゼンブラットは、パターン間の類似性を識別するために決定論的アプローチではなく確率論的アプローチを使用し、生物学的脳の原理に従って動作するシステムを提案しました。彼のパーセプトロン モデルは、3 つの主要なシステムで構成されています。

• 感覚システム
• インタラクティブシステム
• 反射システム

各システムはさらに相互接続されたユニットで構成され、識別されるパターンに応じてこれらの接続をオンまたはオフにすることができます。感覚システムは入力パターンを受け取ります。インタラクティブ システムは特定の接続を開いたり閉じたりし、リフレクティブ システムは出力を表示します。

パーセプトロン モデルに命を吹き込んだカスタム ハードウェアは、主に画像認識用に設計された Mark 1 パーセプトロンでした。これは、入力層、隠し層、出力層を持つ、今日のニューラル ネットワークによく似たブラック ボックスでした。

マーク I パーセプトロン - コーネル大学ニュース サービス レコード、#4–3–15、貴重品および原稿コレクション、コーネル大学図書館

バックプロパゲーションの出現

数十年前の 1986 年に、ジェフリー・ヒントンが、その後のパーセプトロンの開発を促進する結果を提案しました。

当時、彼はバックプロパゲーションと呼ばれる新しい学習手順を提案し、これが後に現代のニューラル ネットワーク モデルの核となりました。この手法は、ニューラル ネットワーク モデルの重みを調整して、実際の値と期待値の差を減らすことによって機能します。これにより、ニューラル ネットワークは入力のパターンやシーケンスを一般化する特徴を学習または抽出できるようになり、未知のデータ表現についてかなり正確な予測が可能になります。

多層ニューラルネットワークモデルにおけるバックプロパゲーションの可視化

それ以来、研究は大きく進歩し始めました。現在、VGGNet、ResNet、Inception など、オブジェクトを迅速かつ正確に分類できるモデルがあります。そして、これらすべては、私たちが人間の脳を模倣しようとしているという事実に基づいています。

しかし、問題は、人々が日常生活で目にする物体を認識するために脳がどのように機能するかを私たちはすでに理解しているかどうかです。神経科学の研究者は、時間の経過とともに、脳の学習、知覚、記憶のパターンを理解するのに役立つ脳理論を提唱しています。

機械学習の最新情報

ジェフ・ホーキンスが提唱した「千脳知能理論」は、人間の脳の「大脳新皮質」がどのようにして物体のさまざまなモデルを作成し、階層的に投票して合意に達し、最終的に触覚、嗅覚、視覚などの感覚を形成するかを大まかに説明しています。

この理論によれば、私たちが現実世界で物体を見ると、大脳新皮質の特定のニューロン群が活性化されるという。私たちが、大きさや向きが異なる類似の物体のグループを見ると、大脳新皮質も同様のニューロンのグループを活性化し、日常生活で見る物体について一般化できるようになります。それほど単純ではありませんが、大まかな概要はつかめると思います。

これは、パターンを学習して予測を行うために大量の入力を必要とする従来の機械学習や最先端の​​ディープラーニングとは異なります。

大脳新皮質のニューロン階層を視覚化する (画像ソース: Pixabay、Numenta HTM からヒントを得た)

ジェフ・ホーキンス氏は、千脳理論などの最先端の神経科学理論と人工知能を組み合わせて、生物の脳と同じように機能する真にインテリジェントなマシンを開発する Numenta を設立しました。これからの道のりは長いですが、私たちは正しい方向に向かっていると確信しています。なぜなら、私たちは大きな進歩を遂げており、パーセプトロンがそのすべての鍵となるからです。

物語は続く…

データサイエンス分野でのキャリアを目指す者として、私はコンピューターサイエンスの初期の思想家に大いに感謝しています。 1642 年に最初の機械式計算機を発明したブレーズ パスカル、1842 年に数学の問題を解くための演算順序を初めて説明したエイダ ラブレス、1950 年に世界的に有名なチューリング テストを作成したアラン チューリング、そして歴史を通じて貢献したすべての人々に感謝します。

今日の人工知能の継続的な進歩により、私たちはかつて遭遇した挫折を忘れがちですが、これらの挫折があったからこそ、今日私たちが行っている素晴らしい仕事が可能になったのです。研究者にとって、研究し、直感で積極的に推論する能力は最大の資産です。ですから、あなたの直感に従って科学の偉大さを理解し、この技術革命に参加してください。

この記事はWeChatの公開アカウント「Reading the Core」から転載したもので、以下のQRコードからフォローできます。この記事を転載する場合は、Duxinshu の公開アカウントにご連絡ください。