IBMがAIチップNorthPoleを発売：内蔵メモリを搭載し、「人間の脳の働きをシミュレート」できると主張

▲ 画像出典: IBM

IBM Researchは10月24日、人間の脳の動作にヒントを得たというAIチップ「NorthPole」を先日発表した。推論性能は4nm GPUを上回るとされ、エッジコンピューティングなどの分野に適しているという。

IT Homeは調査を通じて、NorthPoleチップが2014年に「人間の脳の働きをシミュレートした」IBMのTrueNorthチップの後継であることを突き止めた。このチップの開発も、TrueNorthチップの責任者であるダルメンドラ・モダ氏が主導している。

従来の半導体業界では、チップは主に同じ基本アーキテクチャに従っており、処理ユニットと保存された情報は互いに分離されていると報告されています。このアーキテクチャはチップの設計モードを簡素化しますが、伝送速度が処理速度に追いつけないため、「フォン・ノイマン・ボトルネック」にもつながります。ダルメンドラ・モダは、人間の脳が現在知られている中で最もエネルギー効率の高いプロセッサであると信じており、そのため人間の脳をデジタルで複製する方法を模索し続けています。

IBMが現在発売しているNorthPoleチップと従来のチップの最大の違いは「オンチップメモリ​​」です。「フォン・ノイマン・ボトルネック」がないため、NorthPoleチップのAI推論能力は市場の競合製品よりも優れています。

NorthPoleは12nm技術を採用し、800平方ミリメートルに220億個のトランジスタを配置し、256個のコアを搭載しているが、各コアは8ビット精度で1サイクルあたり2048回の演算を実行できる。4ビットや2ビット精度であれば、演算回数は2倍にできる。

▲ NorthPoleを搭載したPCIeカード、出典：IBM

具体的なアーキテクチャに関して、NorthPole はコンピューティングとストレージの境界を曖昧にし、NorthPole をシステムに簡単に統合し、チップを搭載したデバイスの負荷を大幅に軽減すると主張しています。

IBM Research は、ResNet-50 モデルで NorthPole をテストしました。12nm プロセスに基づく競合 GPU と比較すると、NorthPole のフレーム/秒認識エネルギー効率は競合製品の 25 倍です。さらに、レイテンシとコンピューティング スペース要件の点で、そのパフォーマンスは市場のすべての主流アーキテクチャよりも優れており、4nm プロセスに基づく GPU をも上回っています。

しかし、NorthPole の利点は弱点でもあります。NorthPole は、チップに統合されたローカル データ情報のみを簡単に読み取ることができます。外部データを読み取る場合、計算速度の利点はありません。

Dharmendra Modha 氏は、NorthPole は GPT-4 のホストには使用できないが、多くの企業が求めるモデル推論の要件を満たすことができるはずだと主張している。

IBM Research は、NorthPole の適用分野をまだ研究中です。研究者が大量のデータをリアルタイムで処理する必要がある多くのエッジ コンピューティングは、自動運転、リモート センシング通信などの分野など、NorthPole に非常に適している可能性があります。