このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。

このスタートアップは、アイドル状態のGPUを分散ネットワークに接続することで、AIモデルのトレーニングコストを90%削減できると主張している。


モンスターAPIは、採掘機器などのGPUコンピューティングパワーを使用してAIモデルをトレーニングします。

GPU は、ビットコインなどの暗号通貨のマイニングによく使用されますが、これは大量の計算能力を必要とするリソース集約型のプロセスです。

かつて暗号通貨の流行により市場でGPUが不足し、価格が高騰したため、企業や個人はゲーム業界向けにNvidiaが提供するGPUに目を向け、それを暗号通貨マイニング機器専用のGPUに変えました。

しかし、暗号通貨の流行が収まるにつれ、多くの暗号通貨マイニング機器がシャットダウンされたり、放棄されたりしました。これにより、Monster API の創設者 Gaurav Vij 氏は、これらのデバイスを再利用して、AI ベースのモデルのトレーニングと実行という最新のコンピューティング集約型開発のトレンドに適応させることができることに気付きました。

これらの GPU は、AWS や Google Cloud などで導入されている専用の AI 機器ほどのパワーはないものの、クラウド コンピューティング プロバイダーが使用するハイパースケール コンピューティング機器を使用する場合の数分の 1 のコストで、最適化されたオープン ソース モデルをトレーニングできると Gaurav Vij 氏は述べています。

「機械学習の分野では、需要が供給を上回っているため、コンピューティング能力の不足に苦しんでいます」と、Monster API の共同創設者 Saurabh Vij 氏は語ります。「現在、機械学習の開発者のほとんどは、リソースとして AWS、Google Cloud、Microsoft Azure に依存していますが、その結果、多額のコストがかかります。」

分散コンピューティングパワーネットワークは、AI基本モデルのトレーニングコストを大幅に削減できます。

実際、未使用の GPU は、暗号通貨マイニング装置だけでなく、PlayStation 5 などのゲーム システムや小規模なデータ センターにも存在します。 「暗号通貨マイニング装置はGPUを使用し、ゲームシステムはGPUを使用し、GPUは年々強力になっています」とサウラブ・ヴィジ氏は語った。

企業や個人のコンピューティング能力は、分散ネットワークに統合される前に、データ セキュリティ チェックを含む一連のプロセスを経る必要があります。需要側は需要に応じて設備を追加し、コンピューティングパワーネットワークを拡大および縮小します。サプライヤーは、未使用のコンピューティング能力を販売することで収益の一部を得ることができます。

サウラブ・ヴィジ氏は、分散コンピューティングシステムによって AI ベースのモデルのトレーニングコストが削減され、将来的には資金力のある大手テクノロジー企業だけでなく、オープンソースや非営利団体でもトレーニングできるようになると強調した。 「AI インフラストラクチャ モデルの構築に 100 万ドルかかるのに対し、当社のような分散型ネットワークは 10 万ドルしかかかりません。」

Geek.com は、Monster API がモデルを微調整するための「ノーコード」ツールも提供し、技術的な専門知識やリソースを持たないユーザーにも開放されているため、モデルをゼロからトレーニングでき、コンピューティング能力と AI ベースのモデルがさらに「民主化」されていることを知りました。

「多くの開発者はモデルをゼロからトレーニングするための十分なデータと資金を持っていないため、微調整は非常に重要です。」と彼は述べ、最適化を通じて、Monster API は微調整のコストを 90% 削減し、各モデルの微調整コストを約 30 ドルにしたと述べました。

オープンソースのモデルトレーニングは、開発者がAIで革新するのを助けます

AI 開発者は、これらのトレーニング モデルとオープン ソースに直接影響を与える可能性のある差し迫った規制に直面していますが、Saurabh Vij 氏はオープン ソース モデル トレーニングにプラスの面があると考えています。 Monster API は、潜在的なリスクを管理し、分散型ネットワーク内で「追跡可能性、透明性、説明責任」を確保する必要性を認識しています。

「短期的には規制当局が勝つかもしれないが、私はオープンソースコミュニティに大きな信頼を置いており、オープンソースコミュニティは非常に急速に成長している。Postman(API開発プラットフォーム)には2500万人の開発者が登録しており、その多くが生成型AIを構築しており、それがすべての人にとって新しいビジネスと新しい機会の扉を開く」と同氏は語った。

Geek.com は、Monster API が低コストの AI モデルをトレーニングすることで、開発者がイノベーションのために機械学習を最大限に活用できるようにすることを目指していることを知りました。現在、微調整可能な有名な AI モデル (Stable Diffusion や Whisper など) がいくつか用意されています。さらに、ユーザーはこれらの GPU コンピューティング能力を使用して、独自の AI ベース モデルをゼロからトレーニングすることもできます。

サウラブ・ヴィジ氏は次のように語った。「私たちはMacBook上でテキストと画像の生成に関する実験を行っており、1分間に少なくとも10枚の画像を出力できます。何百万台ものMacBookをインターネットに接続し、ユーザーがMacBookを使ってStable Diffusion、Whisper、その他のAIモデルを実行し、寝ている間に利益を得られるようしたいと考えています。」

「最終的には、プレイステーション、Xbox、Macbook、さらにはテスラ車も強力なコンピューティングリソースになるでしょう。テスラ車も強力なGPUを使用しており、ほとんどの時間ガレージに駐車されているからです」とサウラブ・ビジ氏は付け加えた。

<<:  Googleが生成AIをオンラインショッピングに適用、実在のモデルが高精度な仮想衣装着せ替えを実現

>>:  テンセントのロボット犬が本物の犬の仕事を奪う!彼は楽しくゲームをしたり、歩き回ったりすることができます。

ブログ    
ブログ    

推薦する

AIが認知症患者の自立した生活にどのように役立つか

[[279905]]写真はインターネットから照明や音楽を Alexa や Siri などの音声制御テ...

清華大学唐傑チーム: NLP事前トレーニングモデルの歴史の簡単な紹介

[[422829]]この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI...

...

2020 年の人工知能に関するトップ 10 の予測

[[318614]] [51CTO.com クイック翻訳] 2019年、世界中の意思決定者の53%が...

...

2023年振り返り、大型模型産業の急速な発展の365日

4兆度(345MeV)は、2010年に米国ニューヨークのブルックヘブン国立研究所が相対論的重イオン衝...

AI と機械学習: 大きなデマか、それとも大きな希望か?

ダニング=クルーガー効果は重大なバイアスです。これは、能力の低い人が自分の軽率な決断に基づいて誤った...

機械学習アルゴリズムの新たな女王 — XGBoost

15年前の初出勤の日のことを今でも覚えています。大学院を終えて、世界的な投資銀行にアナリストとして...

...

...

この記事では人工知能とは何かを徹底的に解説します!

人工知能 (AI) は、自然科学のさまざまな分野を網羅しており、主に特定の種類の知的な人間の活動をモ...

人工知能をゼロから学ぶのは難しくない

「人工知能」という用語は、1956年にダートマス協会で初めて提案されました。それ以来、研究者は多くの...

携帯電話がなくてもデジタル人民元が使えます!これらのブラックテクノロジーは

中国新聞社クライアント、福州、4月26日(記者 李金雷)将来のデジタルライフがどのようなものになるか...

人工知能の雇用に関するレポートによると、GenAI は米国のほぼすべての仕事に影響を与えるだろう

世界有数の求人サイトおよび採用プラットフォームである Indeed は、Indeed AI 求人レポ...