Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

6月28日、Xiaomiの人工知能およびクラウドプラットフォーム担当副社長である崔宝秋博士は、オープンソースチャイナおよびオープンソースワールドサミットフォーラムで「Xiaomi AI時代のオープンソース」と題する講演を行い、同会議で、Xiaomiが自社開発したモバイルディープラーニングフレームワークMobile AI Compute Engine(MACE)がオープンソースになることを発表しました。

アドレス: https://github.com/XiaoMi/mace

近年、モバイルインターネットの急速な発展と IoT スマートデバイスの普及、そしてインテリジェンス、低遅延、プライバシー保護に対するユーザーの要求の高まりにより、モバイルデバイス上のオフラインディープラーニングアプリケーションがますます一般的になっています。

Leifeng.com によると、MACE はモバイル デバイス向けに最適化されたディープラーニング モデル予測フレームワークです。設計当初から、MACE はモバイル デバイスの特性に合わせて特別に最適化されています。

  • 速度: モバイル デバイスで計算されるモデルの場合、全体的な予測遅延に対する要件は通常非常に高くなります。フレームワークの最下層では、ARM CPU に対して NEON 命令レベルの最適化が実行され、モバイル GPU に対して効率的な OpenCL カーネル コードが実装されます。 Qualcomm DSP の場合、HVX アクセラレーションのために nnlib コンピューティング ライブラリが統合されています。同時に、アルゴリズム レベルでは、畳み込みを高速化するために Winograd アルゴリズムが使用されます。

  • 消費電力: モバイル端末は消費電力に非常に敏感です。このフレームワークは、ARM プロセッサの big.LITTLE アーキテクチャに、高性能と低消費電力のさまざまな組み合わせを提供します。 Adreno GPU にはさまざまな電力消費パフォーマンス オプションが用意されており、開発者はパフォーマンスと電力消費を柔軟に調整できます。

  • システム応答: GPU コンピューティング モードの場合、基盤となるフレームワークは OpenCL カーネルを適応的に分割してスケジュールし、GPU レンダリング タスクをより適切にプリエンプトしてスケジュールできるようにすることで、システムのスムーズさを確保します。

  • 初期化の遅延: 実際のプロジェクトでは、初期化時間はユーザー エクスペリエンスにとって非常に重要であり、フレームワークではこれに焦点を当てた最適化が行われています。

  • メモリ使用量: モデルの演算子の依存関係分析を実行し、メモリ再利用テクノロジを導入することで、メモリ使用量が大幅に削減されます。

  • モデル保護: モバイル モデルの場合、知的財産の保護が非常に重要です。MACE はモデルを C++ コードに変換することをサポートしており、リバース エンジニアリングの難易度が大幅に高まります。

さらに、MACE は TensorFlow および Caffe モデルをサポートし、トレーニング済みのモデルを独自のモデル データ ファイルに変換できる変換ツールを提供していることがわかっています。また、モデルを C++ コードに変換することも選択でき、動的ライブラリまたは静的ライブラリの生成をサポートし、モデルの機密性を向上させることもできます。

現在、MACE は、カメラのポートレート モード、シーン認識、画像の超解像度、オフライン翻訳 (近日実現予定) など、Xiaomi 携帯電話の複数のアプリケーション シナリオに適用されています。

さらに、MACE とともに、MACE Model Zoo プロジェクトもオープンソースであり、現在、オブジェクト認識、シーンのセマンティック セグメンテーション、画像の様式化などの複数のパブリック モデルが含まれています。今後さらにモデルが追加される予定です。

上記は、MACE Model Zoo の高速スタイル転送モデルを使用して携帯電話で生成された様式化された画像です。

Leiphone.comによると、XiaomiはこれまでHadoop、HBase、Spark、TensorFlowなど、多くの主要な国際オープンソースプロジェクトに参加してきた。同時に、Xiaomiは自社開発の汎用ソフトウェアシステムにも積極的に関わっている。過去数年間、Xiaomi は Linden (分散型リアルタイム検索システム)、Open-Falcon (インターネット企業レベルの監視システム)、Pegasus (分散型 KV ストレージ システム) など、一連のオープン ソース プロジェクトを立ち上げてきました。

AIに関しては、Xiaomiはモバイルデバイス向けに最適化された自社開発のディープラーニングフレームワークMACEをオープンソース化しており、現在複数の社内業務をサポートしています。

また、Leiphone.comは6月29日から7月2日まで深センでCCF-GAIRカンファレンスを開催します。Xiaomiのチーフアーキテクトであり、Xiaomi人工知能およびクラウドプラットフォームの副社長であるCui Baoqiu氏がゲストとして出席し、講演を行います。

世界人工知能・ロボットサミット(CCF-GAIR)は、中国コンピューター連盟(CCF)が主催し、Leiphone.comと香港中文大学深圳校が共催し、深圳市政府の強力な指導を受けています。これは、中国の人工知能とロボットの3大分野、すなわち学術、産業、投資のトップ交流イベントであり、中国の人工知能分野で最強の実力を持つ国境を越えた交流協力プラットフォームの構築を目指しています。

CCF-GAIR 2018は、過去2回のセッションの「***」ラインナップを継続し、1つのメイン会場と11の特別セッション(バイオニックロボットセッション、ロボット産業アプリケーションセッション、コンピュータービジョンセッション、インテリジェントセキュリティセッション、金融技術セッション、インテリジェントドライビングセッション、NLPセッション、AI+セッション、AIチップセッション、IoTセッション、投資家セッション)を備えた充実したプラットフォームを提供し、業界、学界、研究のさまざまな側面から3つのセクターの参加者に、より将来を見据えた実用的な会議コンテンツと現場体験を提供することを目指しています。

<<:  企業のアウトバウンドコールをインテリジェンスで再構築するXunzhong CommunicationsがYunxun Skylarkインテリジェント音声ロボットを発売

>>:  2018 年の 5 つの主要な AI トレンドとそのメリット

ブログ    
ブログ    
ブログ    

推薦する

自動運転車は「交通渋滞をさらに悪化させる可能性がある」

西オーストラリア大学の研究者らは、交通渋滞を緩和するために設計された無人運転車が逆の効果をもたらして...

WPS AI公式サイトがオンラインになりました: 経験者資格の申請、WindowsとAndroidのダウンロードをサポート

写真1 ▲WPS AI公式サイトのスクリーンショット7月6日、Kingsoft OfficeはWPS...

...

人工知能は人材紹介業界に狙いを定めています。仕事を見つけるにはロボットに頼らなければならないのでしょうか?

実装プロセスにおいて、AI 採用は本当にスローガン通りの結果を達成できるのでしょうか?求職者は3時間...

大規模言語モデルを導入し、国内初のコンピューティングパワーエコシステムをサポートする新しいオープンソースRLフレームワークRLLTEが登場

近年、強化学習に対する研究熱は高まり続けており、インテリジェント製造、自動運転、大規模言語モデルなど...

...

...

PyTorch 1.8 と Tensorflow 2.5、どちらを使用すればよいですか?

[[408717]]ディープラーニングが再び認知されて以来、多くの機械学習フレームワークが登場し、...

イノベーションを統合し、障壁を下げ、PaddlePaddleは人工知能を推進して大規模な工業生産を実現します。

5月20日、中国国家深層学習技術応用工程研究室と百度が共催する「WAVE SUMMIT 2021 ...

...

カスタマー サービス チーム向けの人工知能と機械学習ツール

どのビジネスリーダーも、顧客サービスがビジネスの最優先事項になっていることを認めるでしょう。同社は、...

自然言語処理 (NLP) とは何ですか?

[[399636]] 【51CTO.com クイック翻訳】自然言語処理 (NLP) の定義自然言語...