IT Homeは11月21日、Microsoft Azure AIインフラストラクチャがアップグレードされ、ND H100 v5仮想マシンシリーズがリリースされたと報じた。この仮想マシンは、NVIDIA H100 Tensor Coreグラフィックスプロセッシングユニット(GPU)と低遅延ネットワークを搭載している。 報道によると、Microsoft は新しい Azure ND H100 v5 仮想マシン (VM) シリーズをリリースし、現在、米国東部および米国中南部の Azure リージョンで利用可能となっている。 このシリーズには、AI ワークロードの複雑化に対応するために、最新の NVIDIA H100 Tensor Core GPU と NVIDIA Quantum-2 InfiniBand ネットワーキングが搭載されています。 Microsoft は AI への継続的な投資の一環として、AI に最適化された 4K GPU のクラスターを活用しており、今後 1 年間でこれを数十万の新しい GPU に拡張する予定です。 IT Home は、ND H100 v5 VM 仮想マシン シリーズの機能を次のようにまとめています。
マイクロソフトによれば、この一連の仮想マシンは新しい8ビットのFP8浮動小数点データ型を使用して、前世代のFP16よりも6倍高速に行列乗算演算を実行するという。 ND H100 v5 VM は、BLOOM 175B エンドツーエンド モデルなどの大規模言語モデルの推論速度を最大 2 倍高速化するのに役立ちます。 |
<<: データから診断へ: 緑内障検出のためのディープラーニング手法
>>: ビッグモデルが明らかに:ユーザーレビューから金脈を抽出する方法
1. AIフレームワークの重要性AIフレームワークは、人工知能のオペレーティングシステムであり、基本...
翻訳者 |李睿レビュー | Chonglouテクノロジーの世界が進化し続けるにつれて、チャットボット...
3月27日、2019 Unisound AIテクノロジーオープンデーの第一弾が北京で成功裏に開催され...
[[347640]] Facebookはまた失敗したのか?フェイスブックは昨日、自社の機械翻訳が画期...
ダートマス会議から数えると、AIは65年の歴史を歩んできました。特に近年のディープラーニングの台頭に...
今日の多くのロボットハンドは物体をつかむことができるが、つかんだ物体を放さずにその向きを変えることは...
自動運転前夜2021年、ビル・ゲイツは「すべての家庭にロボットを」と題する記事を発表し、爆弾処理ロボ...
7月13日、海外メディアSemianalysisは最近、今年3月にOpenAIが発表したGPT-4モ...
これら 5 つの組織は、自然言語処理 (NLP) を使用して、顧客へのサービスの向上、反復的なタスク...