清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

10月9日、清華大学の公式Weiboアカウントは、オンチップ学習をサポートする世界初のメモリスタストレージとコンピューティングの統合チップの開発における同大学の成果を報告した。

最近、清華大学集積回路学院の呉華強教授と高斌准教授は、統合メモリとコンピューティングのパラダイムに基づくオンチップ学習をサポートするメモリスタベースの統合メモリとコンピューティングチップの分野で大きな進歩を遂げました。彼らの研究成果は、国際科学誌「サイエンス」の最新号に掲載されました。

清華大学によれば、メモリスタは抵抗器、コンデンサ、インダクタに続く第4の基本回路素子である。電源が切断された後も、通過した電荷を「記憶」することができ、新しいタイプのナノ電子シナプスデバイスになることができます。

2012年以来、清華大学の銭和氏と呉華強氏のチームは、メモリスタデバイス、プロトタイプチップからシステム統合まで、AIコンピューティングパワーのボトルネック問題に徐々に協力してきました。新しい研究は、ある程度、「首を絞める」重要なコアテクノロジーを克服しました。

論文「完全に統合されたニューロにインスパイアされたメモリスタ チップを使用したエッジ ラーニング」の内容は次のとおりです。

論文アドレス: https://www.science.org/doi/full/10.1126/science.ade3483

研究概要

メモリスタベースのコンピューティング技術が最近大きな注目を集めており、この技術は従来のコンピューティング アーキテクチャのいわゆる「フォン ノイマン ボトルネック」を克服する可能性を秘めていることがわかっています。メモリスタの特別な点は、完全なオンチップ学習の実装が依然として困難であるにもかかわらず、さまざまなエッジ インテリジェンス アプリケーションでリアルタイムかつエネルギー効率の高いオンチップ学習を実現できることです。

下の図 1 は、ニューラル ネットワークにヒントを得たメモリスタ チップを使用したエッジ ラーニングを示しており、A は人間の脳の学習能力の向上を示しています。 B は、メモリスタベースのニューラル・インスパイア・コンピューティング・チップの設計と将来のアプリケーションです。このチップは、完全なオンチップ学習用に設計されており、必要なすべてのモジュールをメモリスタアレイに統合し、エッジ AI デバイスが新しいシナリオを学習して迅速に適応できるようにします。

関連する問題を解決するために、清華大学集積回路学院の博士課程学生である張文斌氏、博士研究員の姚鵬氏らは、メモリスタの特性符号と閾値に基づく学習アーキテクチャ(STELLAR)を提案し、完全なシステム統合チップを製作しました。このチップは、完全なオンチップ学習をサポートするために必要な、複数のメモリスタ アレイとすべての相補型金属酸化膜半導体周辺回路で構成されています。

下の図 2 は、オンチップ学習用のメモリスタ機能アーキテクチャの設計を示しています。A はメモリスタ チップで使用される STELLAR アーキテクチャ、B と C は分類精度の比較、D は差動コンダクタンス ペア (左) と 1T1R (中央) および 2T2R (右) 構成による重み、E は巡回並列コンダクタンス調整方式です。

下の図 3 は、オンチップ学習用のメモリスタ チップを示しています。A はアーキテクチャの概要、B はチップの光学顕微鏡画像、C は 2T2R セルの断面透過型電子顕微鏡画像です。

研究者らは、モーションコントロール、画像分類、音声認識などのさまざまなタスクにおいて、エンドツーエンドのオンチップ学習が改善され、ソフトウェアのような精度とハードウェアコストの削減が実現できることを実証しました。この研究は、インメモリコンピューティングの分野における重要な前進を示すものです。

下の図 4 は、メモリスタ チップの改善された学習の例を示しています。ここで、A はモーション制御タスク (左) とその制御システム、B は光を追跡する車の新しいサンプル学習、F は画像分類タスクにおける新しいカテゴリ学習です。

次のアニメーションデモを見てみましょう。

1 つ目は、手書きの数字の新しいカテゴリを学習するタスクです。

さらに、動作制御の領域でも学習を向上させることができます。以下に示すように、学習が改善される前は、前進する青い車は目標の赤い車を見逃すことがよくありました。

学習が改善されると、前進する青い車はまず後方に動いて調整し、最終的に目標の赤い車に向かって前進を続けます。

さらに、明るいシーンでの学習が改善される前は、青い車は追従中に目標の赤い車から遠ざかってしまうことがよくありました。

明るいシーンでの学習が改善された後、青い車はうまく適応し、常に目標の赤い車を追跡します。

学術論文の共同筆頭著者である張文斌氏と姚鵬氏は、博士課程在学中に半導体、マイクロエレクトロニクス、ソフトウェアアルゴリズム、脳型コンピューティングなどさまざまな分野で大量の科学研究知識に触れ、実りある研究開発成果と豊富なエンジニアリング構築経験を蓄積してきました。

研究チームの集合写真。

<<:  OpenAI の科学者による最新のスピーチ: GPT-4 は変曲点を超えようとしており、1000 倍のパフォーマンスが確実に出現します。

>>:  MetaMath: 逆思考で大規模モデルをトレーニングする新しい数学的推論言語モデル

ブログ    
ブログ    
ブログ    
ブログ    
ブログ    

推薦する

...

企業が人工知能を応用する際に直面する課題

[[340820]] [51CTO.com クイック翻訳] 過去10年間、人工知能をめぐって大きな議...

2021年の中国の医療人工知能産業の展望

医療用人工知能製品は多様化しており、下流の需要は強い医療人工知能産業の上流は、主に医療データマイニン...

Toutiaoのアルゴリズムロジックを使用してMacOSを再設計しました

仕事以外では、私はほとんどの時間を2つの状態で過ごしています。1つは見出しを閲覧している状態で、もう...

変革の成功を推進する 4 つの AI コア原則

新しいプロジェクトは従業員に恐怖心を引き起こす可能性があり、変更が導入される全体的な文化は、その恐怖...

1,000元の予算で半日のトレーニングを実施し、その効果は主流の大型モデル、オープンソース、市販の中国製LLaMA-2に匹敵する。

LLaMA-1 と比較して、LLaMA-2 はより高品質のコーパスを導入し、大幅なパフォーマンスの...

2021年の量子コンピューティング研究開発の現状と将来展望

この記事はLeiphone.comから転載したものです。転載する場合は、Leiphone.com公式...

RFID技術によるスマート製造

RFID 技術は、識別距離が長く、速度が速く、干渉に対する耐性が強く、複数のターゲットを同時に識別で...

自動運転における機械学習アルゴリズムの理解

機械学習アルゴリズムは、自動運転のさまざまなソリューションで広く使用されています。電子制御ユニットで...

対話 | QingCloud CTO: AI が到来し、基本的なクラウド サービス プロバイダーもそれに備える必要があります。

[51CTO記者の李玲玲が北京からレポート] 真夏が到来し、人工知能も北京の天気のように、より暑い...

Alibaba Cloudが「Tongyi Lingma」AIプログラミングツールをリリース、VS CodeやJetBrainsなどの主流IDEをサポート

11月1日、アリババクラウドは「Tongyi Lingma」というAIプログラミングツールをリリース...

モジュラーコンピュータはこうあるべきだ: 1人の人間が作った超小型コンピュータがオタクコミュニティ全体に衝撃を与えた

手を汚すことが好きな人にとって、コンピューターはおもちゃのようなものです。 Raspberry Pi...

JVM メモリ管理 - GC アルゴリズムの詳細な説明

導入究極のアルゴリズムとは何ですか?実際、これは現在の JVM で使用されているアルゴリズムであり、...

...

RoboFusion: SAM による堅牢なマルチモーダル 3D 検査

この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...