このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。

このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。


モンスターAPIは、採掘機器などのGPUコンピューティングパワーを使用してAIモデルをトレーニングします。

GPU は、ビットコインなどの暗号通貨のマイニングによく使用されますが、これは大量の計算能力を必要とするリソース集約型のプロセスです。

かつて暗号通貨の流行により市場でGPUが不足し、価格が高騰したため、企業や個人はゲーム業界向けにNvidiaが提供するGPUに目を向け、それを暗号通貨マイニング機器専用のGPUに変えました。

しかし、暗号通貨の流行が収まるにつれ、多くの暗号通貨マイニング機器がシャットダウンされたり、放棄されたりしました。これにより、Monster API の創設者 Gaurav Vij 氏は、これらのデバイスを再利用して、AI ベースのモデルのトレーニングと実行という最新のコンピューティング集約型開発のトレンドに適応させることができることに気付きました。

これらの GPU は、AWS や Google Cloud などで導入されている専用の AI 機器ほどのパワーはないものの、クラウド コンピューティング プロバイダーが使用するハイパースケール コンピューティング機器を使用する場合の数分の 1 のコストで、最適化されたオープン ソース モデルをトレーニングできると Gaurav Vij 氏は述べています。

「機械学習の分野では、需要が供給を上回っているため、コンピューティング能力の不足に苦しんでいます」と、Monster API の共同創設者 Saurabh Vij 氏は語ります。「現在、機械学習の開発者のほとんどは、リソースとして AWS、Google Cloud、Microsoft Azure に依存していますが、その結果、多額のコストがかかります。」

分散コンピューティングパワーネットワークは、AI基本モデルのトレーニングコストを大幅に削減できます。

実際、未使用の GPU は、暗号通貨マイニング装置だけでなく、PlayStation 5 などのゲーム システムや小規模なデータ センターにも存在します。 「暗号通貨マイニング装置はGPUを使用し、ゲームシステムはGPUを使用し、GPUは年々強力になっています」とサウラブ・ヴィジ氏は語った。

企業や個人のコンピューティング能力は、分散ネットワークに統合される前に、データ セキュリティ チェックを含む一連のプロセスを経る必要があります。需要側は需要に応じて設備を追加し、コンピューティングパワーネットワークを拡大および縮小します。サプライヤーは、未使用のコンピューティング能力を販売することで収益の一部を得ることができます。

サウラブ・ヴィジ氏は、分散コンピューティングシステムによって AI ベースのモデルのトレーニングコストが削減され、将来的には資金力のある大手テクノロジー企業だけでなく、オープンソースや非営利団体でもトレーニングできるようになると強調した。 「AI インフラストラクチャ モデルの構築に 100 万ドルかかるのに対し、当社のような分散型ネットワークは 10 万ドルしかかかりません。」

Geek.com は、Monster API がモデルを微調整するための「ノーコード」ツールも提供し、技術的な専門知識やリソースを持たないユーザーにも開放されているため、モデルをゼロからトレーニングでき、コンピューティング能力と AI ベースのモデルがさらに「民主化」されていることを知りました。

「多くの開発者はモデルをゼロからトレーニングするための十分なデータと資金を持っていないため、微調整は非常に重要です。」と彼は述べ、最適化を通じて、Monster API は微調整のコストを 90% 削減し、各モデルの微調整コストを約 30 ドルにしたと述べました。

オープンソースのモデルトレーニングは、開発者がAIで革新するのを助けます

AI 開発者は、これらのトレーニング モデルとオープン ソースに直接影響を与える可能性のある差し迫った規制に直面していますが、Saurabh Vij 氏はオープン ソース モデル トレーニングにプラスの面があると考えています。 Monster API は、潜在的なリスクを管理し、分散型ネットワーク内で「追跡可能性、透明性、説明責任」を確保する必要性を認識しています。

「短期的には規制当局が勝つかもしれないが、私はオープンソースコミュニティに大きな信頼を置いており、オープンソースコミュニティは非常に急速に成長している。Postman(API開発プラットフォーム)には2500万人の開発者が登録しており、その多くが生成型AIを構築しており、それがすべての人にとって新しいビジネスと新しい機会の扉を開く」と同氏は語った。

Geek.com は、Monster API が低コストの AI モデルをトレーニングすることで、開発者がイノベーションのために機械学習を最大限に活用できるようにすることを目指していることを知りました。現在、微調整可能な有名な AI モデル (Stable Diffusion や Whisper など) がいくつか用意されています。さらに、ユーザーはこれらの GPU コンピューティング能力を使用して、独自の AI ベース モデルをゼロからトレーニングすることもできます。

サウラブ・ヴィジ氏は次のように語った。「私たちはMacBook上でテキストと画像の生成に関する実験を行っており、1分間に少なくとも10枚の画像を出力できます。何百万台ものMacBookをインターネットに接続し、ユーザーがMacBookを使ってStable Diffusion、Whisper、その他のAIモデルを実行し、寝ている間に利益を得られるようしたいと考えています。」

「最終的には、プレイステーション、Xbox、Macbook、さらにはテスラ車も強力なコンピューティングリソースになるでしょう。テスラ車も強力なGPUを使用しており、ほとんどの時間ガレージに駐車されているからです」とサウラブ・ビジ氏は付け加えた。

<<:  Googleが生成AIをオンラインショッピングに適用、実在のモデルが高精度な仮想衣装着せ替えを実現

>>:  テンセントのロボット犬が本物の犬の仕事を奪う!彼は楽しくゲームをしたり、歩き回ったりすることができます。

ブログ    
ブログ    

推薦する

Mobvoi Guo Xiao: 自動運転の中核要素の実現と車両インタラクションにおけるAIの応用

[51CTO.comより引用] 2017年12月1日~2日、51CTO主催のWOTDグローバルソフト...

不意を突かれたGoogleの「人間の創造」の成功は恐ろしい!人類は歴史上最悪の失業の波に直面しています...

01不意を突かれた!今回、Google は「人間を作った」のです! 5月8日、Googleは毎年恒...

Meta が言語認識システムをオープンソース化、6 言語でのリップ リーディング翻訳モデル認識、誰でもローカル展開可能

今年初めにネットで人気を博した反ギャングドラマ「光弗」をまだ覚えているだろうか。最後の数話で監督がス...

2019 年に学ぶべき 10 個の機械学習 API

最近では、携帯電話の写真からメールの受信トレイのフィルターまで、機械学習はあらゆるところに存在してい...

多言語自然言語処理 (NLP) で言語の壁を打ち破ります!

自然言語処理は言語の壁を打ち破り、人間と機械間の相互作用とコミュニケーションを強化します。自然言語処...

機械学習の仕組み - コード例

誰が生き残るかを予測するモデルをトレーニングします。 [注: ここでモデルを自分で構築するには、完全...

ブロックチェーンのコア技術「ハッシュと暗号化アルゴリズム」を公開

[[285099]]ご存知のとおり、ブロックチェーンの主要な技術コンポーネントは、主に P2P ネッ...

この世界規模の問題に対して、ドローンはどれほどの助けとなるのでしょうか?

火事を起こすのは簡単ですが、消すのは難しいです。これは世界的な問題ですが、これを効果的に予防し、迅速...

...

顔検出と認識がますます普及しているのはなぜでしょうか?その背後にある技術は何ですか?

過去数年間、顔認識は広く注目を集めており、画像分析の分野で最も有望なアプリケーションの 1 つと考え...

大規模モデルは16,000以上の実世界のAPIを習得しており、清華大学などのToolLLMのツール使用能力はChatGPTに劣らない。

ご存知のとおり、オープンソースの大規模言語モデル (LLM) とその派生モデル (LLaMA や V...

...

人工知能は祝福か、それとも呪いなのか?事故は急増しており、アップルとグーグルも例外ではない

人工知能は現代の大きな発展のトレンドであり、世界中のほぼすべてのハイテク企業が AI 分野の技術を研...

20年間のAIベテランの告白

[[256514]] EyeSight Technologyの創設者兼CEO、周俊氏。彼は20年以上...