NVIDIAの次世代プラットフォーム「Vera Rubin」は、単にGPUを高速化する世代交代ではない。GPU、CPU、ラック内外のネットワーク、DPU、電力管理ソフトウェアまでを一体化し、エージェント型AIを「AI工場」として運用するための総合設計だ。
NVIDIAが強調するのは、1ワット当たり、あるいは1トークン当たりにどれだけ多くの有用なAI処理を実行できるかという指標である。もっとも、発表された大幅な性能向上はNVIDIAの主張であり、独立した査読済みベンチマークによる確定値ではない点には注意が必要だ。
8
Vera Rubin NVL72は何を統合するのか
Vera Rubin NVL72は、72基のRubin GPUと36基のVera CPUを1つの液冷ラックに収めるラックスケール・システムだ。ConnectX-9 SuperNIC、BlueField-4 DPU、第6世代NVLinkスイッチも組み込まれ、72基のGPUを緊密に連携する単一のスケールアップ領域として動作する。
3
6
ラックの外側には、Quantum-X800 InfiniBandまたはSpectrum-X Ethernetで接続し、複数ラックによる大規模クラスターへ拡張できる。つまり、Vera RubinはGPU単体ではなく、演算、メモリ、通信、ストレージやセキュリティのオフロードをまとめた「AI工場」の最小単位に近い位置付けだ。
AgentXとDeepSeek V4 Proで何を測ったのか
NVIDIAによると、Vera Rubin NVL72はエージェント型AIの処理で、GB300 NVL72に対してメガワット当たり最大30倍のスループットを実現する。また、同じ比較でトークンコストを最大35分の1にできるとしている。
8
9
この測定には、SemiAnalysisの「AgentX」ワークロードが使われた。AgentXは、実際の運用を想定したエージェント型コーディングのセッションを再生し、長いコンテキスト、ツール呼び出し、コード実行、サブエージェントの起動などを含む処理を評価するベンチマークだ。
8
9
モデルにはDeepSeek V4 Proが使われた。こうした評価では、単純なチャット応答のようにGPUの演算性能だけを見ることはできない。エージェントは推論を何度も繰り返し、外部ツールを呼び出し、データを取得し、コードを実行するため、CPU処理、メモリ帯域幅、GPU間通信、オーケストレーションの効率が結果を左右する。
NVIDIAはRubin全体について、Blackwell世代と比べて推論トークンコストを最大10分の1にできるとも説明している。
11 一方、今回の資料からは、Hopper世代と直接比較できる一次資料の数値や、100万トークン当たりの具体的なドル価格は確認できない。したがって、Hopper比の正確な倍率や、普遍的な「100万トークンの料金」を断定することはできない。
また、エージェント型AIは一問一答のチャットより多くのトークンを消費する。反復的な推論やツール利用が含まれるためだ。NVIDIAの数値は、モデル、コンテキスト長、同時実行数、応答速度の目標、電力設定などに依存するワークロード別の比較として読むべきで、あらゆるサービスの実売価格を示すものではない。
Vera CPUはエージェントの「周辺処理」を担う
Vera CPUは、NVIDIAがAIエージェント時代のインフラ向けに設計した、Armv9.2命令セット互換のカスタムCPUだ。88個のNVIDIA設計「Olympus」コアと、Spatial Multithreadingによる176スレッドを備える。
2
10
担当するのは、モデルの行列演算そのものだけではない。データ処理、検索、ワークフローの調整、ツール実行、サンドボックス内のコード実行、シミュレーションなど、推論の前後に発生するCPU負荷の高い処理を並列に処理することが想定されている。
メモリと接続仕様も、エージェント処理を意識したものだ。SOCAMM2形式のLPDDR5Xメモリにより、合計最大1.2TB/s、1コア当たり最大14GB/sのメモリ帯域幅を提供する。第2世代Scalable Coherency Fabricは、88コア、共有L3キャッシュ、メモリサブシステムを接続し、最大3.4TB/sの二分帯域幅を実現する。統合L3キャッシュ容量は164MBだ。
7
8
Grace CPUとの比較で、NVIDIAはVeraについて、メモリ帯域幅が2.4倍、メモリ容量が3倍、CPUとGPUをコヒーレントに接続するNVLink-C2C帯域幅が2倍になったとしている。
1 NVL72では、CPUとGPU間のNVLink-C2Cに最大1.8TB/sのコヒーレント帯域幅が提供される。
「Scale-In」はNVLink 6によるラック内接続
NVIDIAのネットワーク構成は、主に次の3層に分けて考えると分かりやすい。
- Scale-in/Scale-up: ラック内部のGPUを高速に接続する層。NVLink 6により、NVL72の72基のGPUを1台の密結合コンピューターのように扱う。GPU1基当たりの双方向GPU間帯域幅は3.6TB/s、ラック全体では260TB/sとされる。
3
- Scale-out: ラックとラックを接続する層。Quantum-X800 InfiniBandまたはSpectrum-X Ethernetで、より大きなクラスターを構築する。
3
- データ・インフラのオフロード: ConnectX-9 SuperNICとBlueField-4 DPUが、ネットワーク、ストレージ、セキュリティ、データパス処理を引き受ける。
3
6
この区別におけるScale-Inの役割は、単にネットワーク接続を増やすことではない。1つのラック内にあるGPU群を、通信遅延の小さい一体的な計算資源として動かすことにある。エージェント型AIでは、複数のモデル処理やサブエージェントが頻繁にデータを交換するため、ラック内部の通信効率が総合的なスループットに直結しやすい。
DSX MaxLPSが狙う「電力当たりのトークン」
NVIDIAのDSXは、チップやサーバーだけでなく、システム、ソフトウェア、施設、パートナー技術までを含めたエンドツーエンドのAI工場設計だ。その中のDSX MaxLPSは、瞬間的な最大性能を追求するのではなく、電力1単位当たりのトークン処理量を最大化し、トークンコストを抑えることを目指す。
12
15
実際のデータセンターでは、アクセラレーターの数だけが制約になるとは限らない。受電容量、冷却設備、ラック密度、ネットワーク、運用上の電力上限がボトルネックになる場合もある。MaxLPSの考え方は、AI工場全体の電力を処理の状況に応じて配分し、同じ電力予算でより多くの実用的なエージェント処理を実行するというものだ。
18
20
SpaceXAIとの連携は地上から宇宙へ
NVIDIAは、SpaceXAIが次世代のエージェント型AIワークロードにVera CPUを導入すると発表した。また、GrokのインフラをVera Rubinで拡張し、ギガワット規模の計算能力を目指すとしている。
10
両社はさらに、計画中の「Starmind」軌道コンピューティング構想へ、このアーキテクチャを広げる予定だ。第1世代のStarmind AI衛星には、最適化されたVera Rubin NVL72システムを基盤とする宇宙向け計算ペイロードが想定されている。
10
12
ただし、これは計画された展開であり、軌道上でAIデータセンターがすでに稼働していることを意味しない。宇宙環境では電力、熱、通信帯域幅、信頼性、物理的な実装が地上とは異なるため、実際の性能や運用時期は今後の検証を待つ必要がある。
NVIDIAの競争領域はGPUの外側へ広がる
Vera Rubinの戦略的な意味は、GPUの演算性能を高めることだけではない。NVIDIAが目指すのは、限られたメガワットの中で、より多くのエージェント作業、すなわち「役に立つ処理」を完了させることだ。実際の顧客環境で主張どおりの効果が得られれば、電力、冷却、ネットワーク、設備投資を含む生成トークン当たりのコストを下げられる可能性がある。
同時にNVIDIAは、競争の境界をGPUから、カスタムArm CPU、CPUとGPUのコヒーレントな接続、ラック規模のスイッチ、DPU、AI工場運用ソフトウェアへと広げている。ハードウェアとソフトウェアを一体設計するほど、ワークロードの最適化は進めやすくなる一方、顧客がNVIDIA独自のアーキテクチャやソフトウェア・スタックに依存する度合いも高まる。
Vera Rubinが本当に示しているのは、次世代GPUの登場というより、AIデータセンターそのものをNVIDIAの設計思想で再構成する試みだ。今後の焦点は、AgentXのような特定条件のベンチマーク結果が、さまざまなモデルと実運用のAIサービスでも再現されるかにある。