パフォーマンスが最大480倍向上：Armが2つの新しいAIエッジコンピューティングチップ設計を発表

この記事はAI新メディアQuantum Bit（公開アカウントID：QbitAI）より許可を得て転載しています。転載の際は出典元にご連絡ください。

Armは、AI機能を備えた2つのNPU（ニューラル・プロセッシング・ユニット）、 Arm Cortex-M55とEthos-U55を発売しました。

この新しいチップは、クラウド接続を必要としない IoT 端末デバイス向けに設計されており、低電力組み込みデバイスの機械学習および推論機能を向上させることを目的としています。

Armは、特定の音声および視覚シナリオにおいて機械学習のパフォーマンスを最大480倍向上できると主張している。

どちらのチップも2021年初頭に発売される予定です。

Cortex-M55: ヘリウムテクノロジー + カスタム命令機能

Cortex-M55 は、コスト効率とエネルギー効率に優れた Arm の Cortex-M 製品シリーズに属します。

これは、Arm Helium テクノロジーをベースにした初のシステムオンチップです。いわゆる Helium テクノロジーは、実際には Arm Cortex-M シリーズプロセッサ用の M-Profile Vector Extension (MVE) テクノロジーであり、最小の組み込みデバイス向けに強化された機械学習と信号処理を提供するように設計されています。

最大 480 倍の改善: Arm が 2 つの新しい AI エッジコンピューティングチップ設計を発表">

これは、低電力チップ向けに最適化され、150 を超える新しいスカラーおよびベクター命令を追加した Armv8.1-M アーキテクチャの拡張です。 8 ビット、16 ビット、32 ビットの固定小数点データを効率的に計算できます。

8 ビット固定小数点形式の場合、単精度浮動小数点数 (32 ビット) や倍精度浮動小数点数 (16 ビット) などの浮動小数点データ型が追加されます。

Armによると、Heliumテクノロジーを搭載したCortex-M55は、前世代製品と比べてデジタル信号処理性能が5倍、機械学習性能が15倍向上しているという。

さらに、高度なメモリインターフェイスにより機械学習データへの高速アクセスが可能になり、Arm TrustZone システムに組み込まれています。

Ethos-U55: Arm初のマイクロNPU

Ethos-U55 は、Cortex-M プロセッサをサポートする NPU アクセラレータアーキテクチャに属し、バッテリー寿命とコストに敏感な複雑な AI コンピューティング問題の解決に特化しています。Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4 などの製品と組み合わせて使用する必要があります。

Ethos-U55 は、メモリフットプリントが小さく、面積と電力効率を考慮して非常にコンパクトになるように設計されています。

つまり、これは、最小の電子機器でも動作できるほど小型で電力効率に優れた特殊なニューラルネットワークチップです。

32〜256 個の構成可能なコンピューティングユニットが含まれており、ベースの Cortex-M55 と比較して最大32 倍高速な機械学習パフォーマンスを実現します。

つまり、以前の世代の Cortex-M チップと比較して、Ethos-U55 + Cortex-M55 の組み合わせでは、機械学習タスクを最大 480 倍高速に実行できます。

最大 480 倍の改善: Arm が 2 つの新しい AI エッジコンピューティングチップ設計を発表">

Armは、Cortex-M7と比較して、Cortex-M55とEthos-U55の組み合わせでは推論速度が50倍高速化し、音声アクティビティ検出やノイズキャンセルなどのタスクではエネルギー効率が最大25倍向上できると述べた。

最大 480 倍の改善: Arm が 2 つの新しい AI エッジコンピューティングチップ設計を発表">

ソフトウェア面では、Cortex-M55 と Ethos-U55 はどちらも、一般的な機械学習フレームワーク (TensorFlow と PyTorch) や Arm 独自のソリューションとうまく連携します。