清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

清華大学が世界初のオンチップ学習メモリスタメモリコンピューティング統合チップを開発、その成果がサイエンス誌に掲載された。

10月9日、清華大学の公式Weiboアカウントは、オンチップ学習をサポートする世界初のメモリスタストレージとコンピューティングの統合チップの開発における同大学の成果を報告した。

最近、清華大学集積回路学院の呉華強教授と高斌准教授は、統合メモリとコンピューティングのパラダイムに基づくオンチップ学習をサポートするメモリスタベースの統合メモリとコンピューティングチップの分野で大きな進歩を遂げました。彼らの研究成果は、国際科学誌「サイエンス」の最新号に掲載されました。

清華大学によれば、メモリスタは抵抗器、コンデンサ、インダクタに続く第4の基本回路素子である。電源が切断された後も、通過した電荷を「記憶」することができ、新しいタイプのナノ電子シナプスデバイスになることができます。

2012年以来、清華大学の銭和氏と呉華強氏のチームは、メモリスタデバイス、プロトタイプチップからシステム統合まで、AIコンピューティングパワーのボトルネック問題に徐々に協力してきました。新しい研究は、ある程度、「首を絞める」重要なコアテクノロジーを克服しました。

論文「完全に統合されたニューロにインスパイアされたメモリスタ チップを使用したエッジ ラーニング」の内容は次のとおりです。

論文アドレス: https://www.science.org/doi/full/10.1126/science.ade3483

研究概要

メモリスタベースのコンピューティング技術が最近大きな注目を集めており、この技術は従来のコンピューティング アーキテクチャのいわゆる「フォン ノイマン ボトルネック」を克服する可能性を秘めていることがわかっています。メモリスタの特別な点は、完全なオンチップ学習の実装が依然として困難であるにもかかわらず、さまざまなエッジ インテリジェンス アプリケーションでリアルタイムかつエネルギー効率の高いオンチップ学習を実現できることです。

下の図 1 は、ニューラル ネットワークにヒントを得たメモリスタ チップを使用したエッジ ラーニングを示しており、A は人間の脳の学習能力の向上を示しています。 B は、メモリスタベースのニューラル・インスパイア・コンピューティング・チップの設計と将来のアプリケーションです。このチップは、完全なオンチップ学習用に設計されており、必要なすべてのモジュールをメモリスタアレイに統合し、エッジ AI デバイスが新しいシナリオを学習して迅速に適応できるようにします。

関連する問題を解決するために、清華大学集積回路学院の博士課程学生である張文斌氏、博士研究員の姚鵬氏らは、メモリスタの特性符号と閾値に基づく学習アーキテクチャ(STELLAR)を提案し、完全なシステム統合チップを製作しました。このチップは、完全なオンチップ学習をサポートするために必要な、複数のメモリスタ アレイとすべての相補型金属酸化膜半導体周辺回路で構成されています。

下の図 2 は、オンチップ学習用のメモリスタ機能アーキテクチャの設計を示しています。A はメモリスタ チップで使用される STELLAR アーキテクチャ、B と C は分類精度の比較、D は差動コンダクタンス ペア (左) と 1T1R (中央) および 2T2R (右) 構成による重み、E は巡回並列コンダクタンス調整方式です。

下の図 3 は、オンチップ学習用のメモリスタ チップを示しています。A はアーキテクチャの概要、B はチップの光学顕微鏡画像、C は 2T2R セルの断面透過型電子顕微鏡画像です。

研究者らは、モーションコントロール、画像分類、音声認識などのさまざまなタスクにおいて、エンドツーエンドのオンチップ学習が改善され、ソフトウェアのような精度とハードウェアコストの削減が実現できることを実証しました。この研究は、インメモリコンピューティングの分野における重要な前進を示すものです。

下の図 4 は、メモリスタ チップの改善された学習の例を示しています。ここで、A はモーション制御タスク (左) とその制御システム、B は光を追跡する車の新しいサンプル学習、F は画像分類タスクにおける新しいカテゴリ学習です。

次のアニメーションデモを見てみましょう。

1 つ目は、手書きの数字の新しいカテゴリを学習するタスクです。

さらに、動作制御の領域でも学習を向上させることができます。以下に示すように、学習が改善される前は、前進する青い車は目標の赤い車を見逃すことがよくありました。

学習が改善されると、前進する青い車はまず後方に動いて調整し、最終的に目標の赤い車に向かって前進を続けます。

さらに、明るいシーンでの学習が改善される前は、青い車は追従中に目標の赤い車から遠ざかってしまうことがよくありました。

明るいシーンでの学習が改善された後、青い車はうまく適応し、常に目標の赤い車を追跡します。

学術論文の共同筆頭著者である張文斌氏と姚鵬氏は、博士課程在学中に半導体、マイクロエレクトロニクス、ソフトウェアアルゴリズム、脳型コンピューティングなどさまざまな分野で大量の科学研究知識に触れ、実りある研究開発成果と豊富なエンジニアリング構築経験を蓄積してきました。

研究チームの集合写真。

<<:  OpenAI の科学者による最新のスピーチ: GPT-4 は変曲点を超えようとしており、1000 倍のパフォーマンスが確実に出現します。

>>:  MetaMath: 逆思考で大規模モデルをトレーニングする新しい数学的推論言語モデル

ブログ    
ブログ    
ブログ    
ブログ    

推薦する

コンピュータービジョン GPT の瞬間!カリフォルニア大学バークレー校の3つの巨人が最初の純粋なCV大規模モデルを発表し、その推論はAGIの火花を示した

コンピューター ビジョンの GPT の瞬間が到来しました。最近、カリフォルニア大学バークレー校のコン...

スマートビルディング技術のトレンド: 5つの将来のアイデアと例

1. 拡張現実(AR)建築の世界では、拡張現実と仮想現実が岐路に立っています。 AR はコンピュータ...

...

AI 起業: アウトソーシングから始まりますが、どこで終わりますか?

[[206287]]以前、AIスタートアップの共同創業者であるSさんと雑談していたとき、とても痛ま...

Java における equals() と == の違いと使い方

Java 開発において、一見単純な質問ですが、インターネット上には多くのトピックや質問があります。...

スマート建設現場: 2021 年に注目すべき 5 つのスマート建設技術

革新的な建設技術により、大規模建設プロジェクトの安全性、効率性、生産性が大幅に向上します。建設業界に...

マイクロソフト リサーチの新たな成果: 携帯電話のカメラを使用して心肺バイタル サインを遠隔測定

Microsoft Research は、消費者の手に握られたスマートフォンのカメラを使用して、遠隔...

...

機械学習における欠損値に対処する9つの方法

データサイエンスはデータに関するものです。これは、あらゆるデータ サイエンスや機械学習プロジェクトの...

顔認識は3月15日に再び命名されました。データのプライバシーとセキュリティをどのように保護するのでしょうか?

昨日の3.15ガラでは、CCTVによって顔認識が初めて公開されました。 3月15日に顔認証が命名され...

輸送と物流における AI と自動化のユースケース

7bridgesの創設者兼CEOであるフィリップ・アシュトン氏は、次のように述べています。「運輸・物...

CCTV が顔認識ルーチンを公開、プライバシーとセキュリティをどう保護するか?

現在、インターネットやビッグデータなどの急速な発展と、Internet of Everythingの...

ビッグモデルの「錯覚」、この記事を読んでください

ビッグモデルの「幻想」がついに体系的にレビューされました! 49 ページの記事では、幻覚の定義、分類...