最新のMLPerfランキング：アリババのAIコンピューティングパワーが多くの分野で1位を獲得

4月7日、権威あるAIベンチマーク評価組織MLPerfが最新の推論パフォーマンスリストを公開した。 Alibaba Cloudは、Pingtou Ge、DAMO Academyなどと連携し、データセンター、エッジコンピューティング、IoTの分野で多くの第1位を獲得し、AlibabaのAIコンピューティングパワーの強力な競争力を実証しました。

4月7日北京時間、MLCommonsは最新のMLPerfリストを公開した。

MLPerfは、チューリング賞受賞者のデイビッド・パターソン氏によって2018年に創設されました。世界的なAIトレーニングとAI推論パフォーマンステストを組織し、毎年ランキングを発表しており、業界で最も主流の標準の1つとなっています。このリストは、データ センターとエッジ コンピューティングの更新シナリオと、最新の MLPerf Tiny 0.7 テスト リストに重点を置いています。

現在の激しいデータセンターとエッジコンピューティングのシナリオでは、ハードウェアアクセラレーションに基づくメーカーと機関間のパフォーマンスのギャップは大きくなく、競争は主にモデルソフトウェアとハ​​ードウェアの協調的な最適化に焦点を当てています。最終的に、Alibaba Cloud Panjiu Server が際立って、MLPerf 史上最高の純粋な CPU 推論性能を達成した初の ARM アーキテクチャ サーバーとなり、データ センターとエッジの両方でこのカテゴリの総合パフォーマンスで第 1 位にランクされました。

MLPerf 2.0 データセンター CPU のみの推論パフォーマンス データの比較

Alibaba Cloud の Sinian 異種アクセラレーション プラットフォームは、モデル最適化ツール SinianML を使用して、AI タスクのニューラル ネットワーク アーキテクチャを検索および圧縮し、最適な演算子を実装すると報告されています。ベンチマーク精度目標を確保しながら、標準の ResNet50 v1.5 よりもはるかに高い計算効率を実現できます。さらに、MLPerf Tiny シナリオでは、Alibaba Cloud は、大規模なディープ オペレータ フュージョンと Pingtou Ge Xuantie RISC-V マイクロアーキテクチャの極限の最適化を通じて、CPU コンピューティング パワーの使用率を大幅に向上させ、ソフトウェアとハ​​ードウェアの協調最適化を実現できます。

Tiny シナリオは、近年 MLPerf によって追加された新しいパフォーマンス テスト カテゴリです。データセンターなどの大規模で高コンピューティングのシナリオとは異なり、Tiny は低電力でコスト効率の高い IoT シナリオに重点を置いており、ますます広範囲にわたる IoT スマート アプリケーション シナリオでソフトウェアとハ​​ードウェアのパフォーマンスと最適化機能をテストします。今回発表されたMLPerf Tiny 0.7パフォーマンスデータリストでは、Alibaba CloudのAuroraヘテロジニアスコンピューティングアクセラレーションプラットフォームが、コンパイルとソフトウェアとハ​​ードウェアの統合の革新的な最適化により、Pingtou Geの自社開発RISC-V Xuantie C906プロセッサをベースに、DAMO Academyの音声や視覚などの機械知能におけるアルゴリズムの知識と組み合わせることで、4つのベンチマークすべてでCPUパフォーマンスデータ1位を獲得しました。このプラットフォームは、モデルの精度要件を満たしながら、このAIベンチマークテストリストでRISC-Vアーキテクチャの最高の結果を達成しました。

MLPerf Tiny 0.7 推論パフォーマンスデータの比較

MLPerf が、AI 業界の主力となっているクラウドベンダーに向けて評価環境をより傾けていることに気づくのは難しくありません。 「高度に統合された特殊なAIチップは、アプリケーションシナリオに多くの制約があります。私たちは、AIアプリケーションの価値を最大化するために、より汎用的なソフトウェアとハ​​ードウェアの共同アクセラレーションプラットフォームを開発したいと考えています」と、アリババクラウドのヘテロジニアスコンピューティングの主任科学者である張衛鋒博士は述べています。