データ センターは生成 AI に対応できる準備ができていますか?

プロンプトに応じてテキスト、画像、その他のコンテンツを生成できる生成型人工知能 (AI) の企業導入はまだ初期段階ですが、組織がこのテクノロジーの新しい用途を見つけるにつれて、急速に増加すると予想されます。

「生成AIをめぐる熱狂は衰える気配がない」とガートナーのアナリスト、フランシス・カラモウジス氏は言う。「組織は生成AIソリューションにいくら投資すべきか、どの製品に投資する価値があるか、いつ始めるべきか、この新興技術がもたらすリスクをどう軽減するかを急いで決めようとしている。」

ブルームバーグ・インテリジェンスによると、生成AI市場は今後10年間で年間42%という驚異的な成長率で成長し、2022年の400億ドルから1.3兆ドルに達すると予想されています。

生成 AI は、ソフトウェア コードやネットワーク スクリプトの作成、トラブルシューティングや問題解決、プロセスの自動化、トレーニングやオンボーディングの提供、ドキュメントおよび知識管理システムの作成、プロジェクト管理や計画の支援など、さまざまな方法で IT チームを支援できます。

生成 AI は、コール センター、カスタマー サービス、仮想アシスタント、データ分析、コンテンツ作成、設計と開発、予測メンテナンスなど、ビジネスの他の部分も変革できます。

しかし、データセンターのインフラストラクチャは、生成 AI によって生成される増大するワークロードを処理できるのでしょうか?

生成AIがコンピューティング要件に与える影響

今後、生成 AI がほとんどの組織のデータ戦略の一部となることは間違いありません。ネットワークおよび IT リーダーが今日行う必要があるのは、IT インフラストラクチャとチームが今後の変化に備えられるようにすることです。

これは、生成 AI を組み込んだアプリケーションを構築および展開する際に、コンピューティング能力やその他のリソースの必要性にどのような影響を与えるでしょうか?

「今日知られているデータセンターの需要は増加し、将来のデータセンターと関連技術の様相を完全に変えるだろう」とコンサルティング会社KPMGのコンサルティング担当マネージングディレクター、ブライアン・ルイス氏は語った。

データセンター運営会社 DataBank の CEO、ラウル・マリネク氏は、生成 AI アプリケーションは、生成 AI システムの核となる大規模言語モデル (LLM) をトレーニングし、その後、トレーニングされた LLM を使用してアプリケーションを実行するという 2 つの段階で、コンピューティング能力に大きな要求をかけると述べています。

「大規模な言語モデルのトレーニングには、ニューラルネットワークの形での集中的な計算が必要であり、数十億の言語や画像の例がニューラルネットワークシステムに入力され、システムが人間のようにそれらを「認識」するまで繰り返し改良される」とマーティネック氏は述べた。

マリネク氏は、ニューラル ネットワークを数か月、あるいは数年にわたって継続的に実行するには、GPU プロセッサの非常に高密度な高性能コンピューティング (HPC) クラスターが必要であると述べました。 「トレーニングに使用される独自のデータセットの近くに配置できる専用インフラストラクチャ上では、より効率的に実行されます」と彼は言いました。

2 番目のフェーズは「推論プロセス」、つまり実際にこれらのアプリケーションを使用してクエリを実行し、データ結果を返すことです。 「この運用段階では、情報を照会するユーザーは想定されるユースケースに対して迅速な応答を期待しているため、迅速に拡張でき、低遅延でアプリケーションにアクセスできる、より地理的に分散されたインフラストラクチャが必要です。」

マリネック氏は、そのためには、現在ほとんどのアプリケーションをサポートしている集中型のパブリッククラウドモデルではなく、多くの場所にデータセンターを構築することが必要になると述べた。同氏は、この段階ではデータセンターのコンピューティング能力に対する需要は依然として増加するが、「第 1 段階と比較すると、この需要はより多くのデータセンターに分散される」と述べた。

生成AIが液体冷却の需要を促進

ネットワークおよび IT リーダーは、生成 AI がサーバー密度に与える影響だけでなく、冷却要件、電力ニーズ、持続可能性の取り組みなどに与える影響も認識する必要があります。

「密度の問題だけではなく、ピーク負荷時にこれらのサーバーがどのくらいの頻度で使用されるか、また、どのくらい使用されるかというデューティサイクルも関係します」と、ティリアス・リサーチの主席アナリスト、フランシス・サイドコ氏は語る。「NVIDIA、AMD、インテルなどの企業が製造するAIチップの各世代では、消費電力と発熱を抑えながらパフォーマンスを向上させようとしていることがわかります。」

こうした努力にもかかわらず、電気予算は依然として増加しているとサイドコ氏は述べた。 「ワークロード、特に GenAI の急速な増加により、いずれ困難に直面することになるでしょう。」

ルイス氏は、サーバー密度は「ブレード技術や仮想ホストのように増加する必要はない」と付け加えた。 「非シリコンチップ、グラフィックス処理装置（GPU）、量子コンピューティング、ハードウェアを意識したモデルベースのソフトウェア開発などの技術革新により、既存のハードウェアからより多くのメリットが得られるようになるでしょう。」

ルイス氏は、業界ではすでに、マイクロソフトのプロジェクト・ナティック海底データセンターなど、さまざまな場所で空気よりも効率的で持続可能な革新的な液体冷却技術の実験が行われていると述べた。

「ファン、ダクト、通気口、空調システムなどの従来の空冷技術は、GPUなどの高性能コンピューティングハードウェアの冷却ニーズを満たすには不十分です」とルイス氏は語った。 「そのため、液体冷却などの代替冷却技術が注目を集めています。」

ルイス氏によると、液体冷却では、水などの液体を熱交換器に循環させて、コンピューターの部品から発生する熱を吸収する。 「液体は空気よりも熱伝導率が高く、より優れた効率的な熱伝達が可能になるため、液体冷却は従来の空気冷却よりもエネルギー効率に優れています。」

マリネク氏は、新しいデータセンターの設計はより高い冷却要件と電力需要を満たす必要があり、将来のデータセンターは電力、冷却、持続可能性の適切な組み合わせを提供するために、後冷却、チップ水、浸漬技術などの新しい冷却方法に頼らなければならないだろうと述べた。

マリネック氏は、データセンター運営者らはすでに液体冷却の進歩を遂げていると述べた。たとえば、DataBank はアトランタにあるジョージア工科大学のスーパーコンピューター施設で、QCooling の新しい ColdLogik Dx リアドア冷却ソリューションを使用しています。

「特に将来の世代のGPUはより多くの電力を消費することを考えると、ゲートの水使用量とチップ冷却技術の水使用量は大幅に増加すると予想しています」とMartynek氏は述べた。 「生成型 AI の導入により、より多くのコンピューティング スペースと電力が必要になるため、間違いなく、より高い電力消費と冷却効率の追求が促進されるでしょう。」

Gen AIが電力需要に与える影響

マリネク氏は、データセンター運営者が独自の変電所を建設することがより一般的になるかもしれないと述べた。 「需要による電力網への負担と再生可能エネルギーへの移行により電力供給をめぐる不確実性が増しており、新しいデータセンタープロジェクトのスケジュールは電力会社の作業量と新しい施設の電力需要を処理する能力に大きく左右される」と彼は述べた。

Marynek 氏は、HPC クラスターの電力需要を満たすため、また公共料金のスケジュールや制限に対処するために、信頼性が高くスケーラブルな電力を確保することが、データセンター運営者にとってますます最優先事項になるだろうと述べました。

マリネック氏は、データバンクがユニバーサル データ ホール デザイン (UDHD) と呼ばれる新しいデータ センター設計標準を展開していると述べました。この標準は、フラットな床、周囲の空気冷却、キャビネット間の広い間隔を特徴としており、ハイパースケール クラウドの導入に最適で、迅速に導入できます。

「このアプローチにより、上げ床やキャビネットの間隔を簡単に追加して、より従来型のエンタープライズ ワークロードに対応することもできました」と Martynek 氏は述べています。 「さらに、リアドア熱交換器、水冷ドア構成、直接チップ冷却インフラストラクチャなどの次世代冷却技術を最小限の労力で追加できます」と彼は語った。

将来、データセンター技術の設計は「高速アクセスメモリ、強力なストレージ/ストレージエリアネットワーク、高性能な遅延/中断耐性ネットワーク、ビッグデータデータベース技術など、より高度なコンピューティング要件に対応する必要がある」とルイス氏は述べた。

ITチームは準備が必要

ネットワークおよびデータセンター チームは今すぐ準備する必要があります。 「こうした変化はあまりにも急速に起こっており、誰も十分に備えることができない」とサイドコ氏は語った。 「必要な変更すべてに対応する必要があるのは、ネットワーク/データセンター チームだけではありません。エコシステム全体です。」

これには、増大する作業負荷と電力需要を処理するチップベンダーも含まれます。 「ネットワーク/データセンターチームが変化する要件に対応するために使用できるさまざまなオプションを提供します」と Sideco 氏は述べています。 「需要に追いつくためには、これらすべての連携が非常に重要になります。」

他の人は準備にもっと自信を感じています。 「私たちIT部門は常に次の混乱に備えています」とルイス氏は語った。 「本当の問題は、組織が変化の必要なことに投資するかどうかです。コスト削減は、データ センターのアウトソーシングにおける最優先事項です。しかし、組織は、AI などのテクノロジーによってもたらされるビジネスの変化に IT がどれだけ迅速に対応し、適応できるかを測定するための最新の IT TCO と価値実現フレームワークをまだ導入していません。」

「AI導入に備えるために、データセンターは適切なビジネス戦略と資本戦略を決定し、必要なインフラとツールに投資し、適切なスキルを持つ労働力を育成する必要がある」とマーティネック氏は述べた。 「戦略を実行するために適切な人材を確保することは、適切な戦略を持つことと同じくらい重要です。」