シングルテナント AI ファクトリーは最新のデータセンタートレンドでしょうか?

コロケーションデータセンターの標準的な構造は、数十または数百の顧客が同時に異なるアプリケーションを実行することです。しかし、Nvidia は、アプリケーションを実行し、それを使用する顧客が 1 社のみという新しいタイプのデータセンターについての洞察を提供しています。

「AI工場」の出現

これは新しいタイプのデータセンターであり、多くのアプリケーションが実行され、多くの異なるテナントが同じインフラストラクチャを使用していた過去のデータセンターとは異なります。」

これらの新しいデータセンターは、少数のアプリケーションをホストし、基本的に単一のテナントによって使用されます。テナントは、データを処理し、モデルをトレーニングし、トークンを生成して AI を生成します。私たちはこれらの新しいデータセンターを「AI ファクトリー」と呼んでいます。

AI 工場があらゆるところに出現しています。私の推測では、ほぼすべての主要地域に AI クラウドが存在し、すべての主要国に独自の AI クラウドが存在することは間違いありません。つまり、私たちは今、コンピューティングにおけるこの転換点、変革の始まりにいるのです。

この傾向は現在、インド、スウェーデン、日本、フランスで起こっています。 AI が真に効果的であるためには、言語および文化の標準に準拠する必要があります。日本のAIニーズはスウェーデンのそれとは異なります。 AI データセンターやシングルテナント AI ファクトリーが各国に限定されるのはそのためです。

AI導入規模の評価

Amazon や Google などの大手クラウドサービスプロバイダーや、Equinix などの大手コロケーションプロバイダーのデータセンターは、サッカー場ほどの大きさの巨大なものが多いです。 Nvidia の Hopper プロセッサの膨大な電力消費を考えると、これらの AI 工場はマクドナルドとほぼ同じ大きさになります。

一般的なデータセンターのラック電力予算は 6kW ～ 8kW の範囲ですが、LLM の実行に最適化されたサーバーを導入する場合、1 台のサーバーで約 11kW の電力が消費され、これは汎用サーバー約 14 台の平均電力消費量に相当します。

この場合、一般的なデータセンターでは、DGXH100 などの GPU サーバーを限られた数しか実行できません。1MW のデータセンターの場合は、約 50 台の DGXH100 サーバーを導入できます。多数の同時ユーザーに AI を大規模に展開するには、このようなサーバーの大規模なクラスターが必要になります。つまり、一般的なデータセンターでは、限られた数の顧客、おそらく 1 人の顧客のみに対応できます。

AIを活用した工場の未来

AI ファクトリーのような単一目的の GPU 環境の場合、最もコスト効率の高い設計は、高密度と液体冷却向けに設計された専用のデータセンターを、AI エンタープライズに最適な場所に設置することです。

AI クラスターの電力消費は、多数のサーバーを備えたデータセンターの制限要因となり、これらのデータセンターの一部は AI 専用となる可能性があります。 AI を取り巻く安全性と規制の枠組みもこの傾向を推進する可能性があります。生成 AI と汎用 AI の開発により、セキュリティとコンプライアンスの問題が発生するため、企業はそのようなワークロードを高度に安全な専用施設から実行することを決定する場合があります。