Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

Xiaomi、自社開発のモバイルディープラーニングフレームワークMACEのソースを公開

6月28日、Xiaomiの人工知能およびクラウドプラットフォーム担当副社長である崔宝秋博士は、オープンソースチャイナおよびオープンソースワールドサミットフォーラムで「Xiaomi AI時代のオープンソース」と題する講演を行い、同会議で、Xiaomiが自社開発したモバイルディープラーニングフレームワークMobile AI Compute Engine(MACE)がオープンソースになることを発表しました。

アドレス: https://github.com/XiaoMi/mace

近年、モバイルインターネットの急速な発展と IoT スマートデバイスの普及、そしてインテリジェンス、低遅延、プライバシー保護に対するユーザーの要求の高まりにより、モバイルデバイス上のオフラインディープラーニングアプリケーションがますます一般的になっています。

Leifeng.com によると、MACE はモバイル デバイス向けに最適化されたディープラーニング モデル予測フレームワークです。設計当初から、MACE はモバイル デバイスの特性に合わせて特別に最適化されています。

  • 速度: モバイル デバイスで計算されるモデルの場合、全体的な予測遅延に対する要件は通常非常に高くなります。フレームワークの最下層では、ARM CPU に対して NEON 命令レベルの最適化が実行され、モバイル GPU に対して効率的な OpenCL カーネル コードが実装されます。 Qualcomm DSP の場合、HVX アクセラレーションのために nnlib コンピューティング ライブラリが統合されています。同時に、アルゴリズム レベルでは、畳み込みを高速化するために Winograd アルゴリズムが使用されます。

  • 消費電力: モバイル端末は消費電力に非常に敏感です。このフレームワークは、ARM プロセッサの big.LITTLE アーキテクチャに、高性能と低消費電力のさまざまな組み合わせを提供します。 Adreno GPU にはさまざまな電力消費パフォーマンス オプションが用意されており、開発者はパフォーマンスと電力消費を柔軟に調整できます。

  • システム応答: GPU コンピューティング モードの場合、基盤となるフレームワークは OpenCL カーネルを適応的に分割してスケジュールし、GPU レンダリング タスクをより適切にプリエンプトしてスケジュールできるようにすることで、システムのスムーズさを確保します。

  • 初期化の遅延: 実際のプロジェクトでは、初期化時間はユーザー エクスペリエンスにとって非常に重要であり、フレームワークではこれに焦点を当てた最適化が行われています。

  • メモリ使用量: モデルの演算子の依存関係分析を実行し、メモリ再利用テクノロジを導入することで、メモリ使用量が大幅に削減されます。

  • モデル保護: モバイル モデルの場合、知的財産の保護が非常に重要です。MACE はモデルを C++ コードに変換することをサポートしており、リバース エンジニアリングの難易度が大幅に高まります。

さらに、MACE は TensorFlow および Caffe モデルをサポートし、トレーニング済みのモデルを独自のモデル データ ファイルに変換できる変換ツールを提供していることがわかっています。また、モデルを C++ コードに変換することも選択でき、動的ライブラリまたは静的ライブラリの生成をサポートし、モデルの機密性を向上させることもできます。

現在、MACE は、カメラのポートレート モード、シーン認識、画像の超解像度、オフライン翻訳 (近日実現予定) など、Xiaomi 携帯電話の複数のアプリケーション シナリオに適用されています。

さらに、MACE とともに、MACE Model Zoo プロジェクトもオープンソースであり、現在、オブジェクト認識、シーンのセマンティック セグメンテーション、画像の様式化などの複数のパブリック モデルが含まれています。今後さらにモデルが追加される予定です。

上記は、MACE Model Zoo の高速スタイル転送モデルを使用して携帯電話で生成された様式化された画像です。

Leiphone.comによると、XiaomiはこれまでHadoop、HBase、Spark、TensorFlowなど、多くの主要な国際オープンソースプロジェクトに参加してきた。同時に、Xiaomiは自社開発の汎用ソフトウェアシステムにも積極的に関わっている。過去数年間、Xiaomi は Linden (分散型リアルタイム検索システム)、Open-Falcon (インターネット企業レベルの監視システム)、Pegasus (分散型 KV ストレージ システム) など、一連のオープン ソース プロジェクトを立ち上げてきました。

AIに関しては、Xiaomiはモバイルデバイス向けに最適化された自社開発のディープラーニングフレームワークMACEをオープンソース化しており、現在複数の社内業務をサポートしています。

また、Leiphone.comは6月29日から7月2日まで深センでCCF-GAIRカンファレンスを開催します。Xiaomiのチーフアーキテクトであり、Xiaomi人工知能およびクラウドプラットフォームの副社長であるCui Baoqiu氏がゲストとして出席し、講演を行います。

世界人工知能・ロボットサミット(CCF-GAIR)は、中国コンピューター連盟(CCF)が主催し、Leiphone.comと香港中文大学深圳校が共催し、深圳市政府の強力な指導を受けています。これは、中国の人工知能とロボットの3大分野、すなわち学術、産業、投資のトップ交流イベントであり、中国の人工知能分野で最強の実力を持つ国境を越えた交流協力プラットフォームの構築を目指しています。

CCF-GAIR 2018は、過去2回のセッションの「***」ラインナップを継続し、1つのメイン会場と11の特別セッション(バイオニックロボットセッション、ロボット産業アプリケーションセッション、コンピュータービジョンセッション、インテリジェントセキュリティセッション、金融技術セッション、インテリジェントドライビングセッション、NLPセッション、AI+セッション、AIチップセッション、IoTセッション、投資家セッション)を備えた充実したプラットフォームを提供し、業界、学界、研究のさまざまな側面から3つのセクターの参加者に、より将来を見据えた実用的な会議コンテンツと現場体験を提供することを目指しています。

<<:  企業のアウトバウンドコールをインテリジェンスで再構築するXunzhong CommunicationsがYunxun Skylarkインテリジェント音声ロボットを発売

>>:  2018 年の 5 つの主要な AI トレンドとそのメリット

ブログ    

推薦する

AI時代におけるコンピュータのマクロ的な意義について語る

実際、私たち人間は、そのようなことを心配する必要はありません。科学者は、人工知能が人間の脳のレベルに...

AI時代が近づいています。将来的には人工知能を活用した教育方法も登場するのでしょうか?

人工知能技術の進歩により、あらゆる生活がこの技術によって変化し始めています。近い将来、人工知能技術の...

...

移動ロボットとは何ですか?また、どのように分類されますか?

移動ロボットは、作業を自動的に行う機械装置です。センサー、遠隔操作者、自動制御移動搬送機などから構成...

GTA6のトレーラーは1億回以上再生されており、3人のAI巨人も数秒でGTAギャングに変身できる

新しいGTAゲームの予告編を見ましたか?この予告編は3つのギネス世界記録を破り、再生回数は1億回を超...

AIとプライバシーの未来: コンピュータービジョンソリューションとプライバシー

データ保護とセキュリティは、何十年もの間、企業にとって最大の懸念事項でした。現在、75% 以上の企業...

...

...

2020 Forrester Wave レポート: Dynatrace が AI を活用した IT 運用 (AIOps) のリーダーに選出

「Forrester Wave™: IT 運用のための人工知能、2020 年第 4 四半期」レポート...

アニメーション + 原理 + コード、トップ 10 の古典的なソート アルゴリズムを解釈する

ソートアルゴリズムは、「データ構造とアルゴリズム」における最も基本的なアルゴリズムの 1 つです。ソ...

...

睡眠研究はより優れた AI モデルの作成に役立ちますか?

私たちはなぜ眠るのでしょうか? 明らかな理由の一つは、体と手足の力を回復することです。しかし、睡眠の...

人工知能が消去された画像を完璧な結果で再現します!

革命的な新しい人工知能プログラムは、画像の欠けている部分をすべて完璧に再現できることをすぐに納得させ...

TensorFlow ワイド&ディープラーニングチュートリアル

[[211918]]この記事では、TF.Learn API を使用して、ワイド線形モデルとディープ ...

Python で自然言語処理を始める

このチュートリアルの目的は、自然言語処理 (NLP) の概念を通じて Python でテキスト デー...