ローカル AI: スマートフォン時代の低消費電力分析

人工知能にはボトルネック問題があります。これはディープ ニューラル ネットワークに基づいており、数億から数十億の計算が必要になる可能性があり、処理とエネルギーを大量に消費するタスクです。さらに、これらの分析計算やその他の分析計算を実行するために、メモリへのデータの出し入れにかかるコストと待ち時間も発生します。マサチューセッツ工科大学 (MIT) の准教授 Vivienne Sze 氏は、現在でも使用されているビデオ圧縮規格の開発に貢献したことで最もよく知られています。現在、彼女は、ビデオを処理するためのより効率的なディープニューラルネットワークと、スマートフォン、組み込みデバイス、マイクロロボット、スマートホーム、医療機器上で AI アプリケーションを実行するためのより効率的なハードウェアの設計に注力しています。

[[434142]]

彼女は最近の MIT とのインタビューで、なぜ今低電力 AI が必要なのかを説明しました。 「AI アプリケーションは、スマートフォン、小型ロボット、インターネット接続デバイス、および電力と処理能力が制限されているその他のデバイスに移行しています。課題は、AI には高い計算要件があることです。自動運転車のセンサーとカメラのデータに分析を適用すると、約 2,500 ワットを消費する可能性がありますが、スマートフォンの計算予算は約 1 ワットと低いです。」

AIをスマートフォンのような小型デバイスにローカライズすることで、「データ処理をクラウドや倉庫のサーバーラックで行う必要がなくなる」とSze氏は述べた。 「クラウドから計算をオフロードすることで、AI の範囲を拡大できます。リモート サーバーとの通信によって生じる遅延が削減されるため、応答時間が短縮されます。これは、変化する状況に即座に対応する必要がある自律ナビゲーションや拡張現実などのインタラクティブ アプリケーションにとって非常に重要です。開発デバイスでデータを処理することで、医療記録やその他の機密記録も保護されます。データは収集された場所で処理できます。」

ハードウェアの観点から、Sze 氏は「データをチップ外に送信するのではなく、ローカルで再利用する」ことを目指しています。「再利用したデータをチップ上に保存すると、処理のエネルギー効率が極めて高くなります。」ソフトウェア側では、Sze 氏はディープ ネットワーク内のエネルギーを大量に消費する「重み」を削除するアルゴリズム コードの「プルーニング」を設計するなど、さまざまな調整を行っています。彼女が研究している潜在的な応用例の一つは、神経変性疾患の診断に役立つ視線追跡だ。これは、これまでは高価なオフィス機器が必要だったが、患者の自宅で普通のスマートフォンを使って行うことができるようになる。