GB300 NVL72は「新しい推論/学習のワークホース」と位置づけられ、トークンあたりコストを明確に意識した設計思想が特徴です。これは業界全体がAIモデルの実運用(推論)へと軸足を移していることを反映しています。NVIDIAの製品ページによれば、Blackwell GPUと比較してFP4 Tensor Core FLOPSが1.5倍、アテンション性能が2倍向上しています
。
本展開では、高速ネットワーキングが基盤的要素として極めて重要です。NVIDIA GB300 NVL72システム群はNVIDIA Spectrum-X Ethernetネットワーキングで相互接続されます。これはロスレスで高スループットのEthernetファブリックであり、マルチノードAIワークロードにおけるボトルネックを排除するよう設計されています。
具体的には、400GbEおよび800GbEインターコネクト、光トランシーバ、NVIDIA Spectrum-X Ethernetスイッチ、SuperNICが採用されます。このファブリックがなければ、エンタープライズレベルの推論スループットを実現しようとすると、深刻なレイテンシと帯域幅のボトルネックが発生します。NVIDIAのエンタープライズリファレンスアーキテクチャ(NVL72 AI Factory向け)でも、このデュアルプレーン構成が大規模AI学習・推論とリアルタイムアプリケーションを支える設計であることが確認されています
。
企業が実験段階を卒業し、本番環境でAIモデルを大規模に展開するためのインフラを求めていることが明確になりました。
Vultr提携以外にも、HPEは関連する複数の取り組みを発表しました。
VultrがHPEとNVIDIAを選んだことは、大きな転換点を示しています。世界最大の非公開ハイパースケーラーであるVultrは、企業顧客が学習とリアルタイム推論の両方をクラウド規模で扱えるインフラを必要としていると確信しているのです。NVIDIAのラックスケールGPUコンピューティングとHPEのファクトリーアーキテクチャ、液冷技術、サービスを組み合わせることで、Vultrは次世代のエンタープライズAIワークロード——モデル学習から1兆パラメータモデルの本番推論まで——に応える態勢を整えています。