NVIDIA、AI工場の評価軸を「メガワット当たりトークン」へ転換

AIインフラで制約になりつつあるのは、ラックに収められるアクセラレータ数だけではない。拠点に供給できる電力が、AI工場の増強余地を左右する局面が増えている。

NVIDIAは2026年のAI Infra Summit初日、AI工場の成果を測る中心指標として、**「メガワット当たりのエージェント型AIトークン」**を掲げた。つまり、一定の電力枠の中で、どれだけ有用な推論処理を生み出せるかを問う考え方だ。23

サンタクララで講演したNVIDIAのハイパースケールおよびHPC担当バイスプレジデント、イアン・バック氏が示した論点は、GPU単体の性能にとどまらない。電力がボトルネックになる環境では、コンピュート、ネットワーク、推論ソフトウェア、冷却、電力制御、電力網との運用連携を一体として設計する必要がある、というものだ。123

Lambdaの検証：同じ電力予算で処理量を24%増加

最も具体的なデータは、AIクラウド事業者Lambdaが実施した、NVIDIA DSX MaxLPSの導入環境での初回検証だ。対象はHGX B200 GPUサーバーで、DSX MaxLPSはGPUおよびラック単位の消費電力を監視し、余っている電力ヘッドルームをノード間で再配分する。23

NVIDIAの説明によると、5ラック・19ノードのクラスタでは、本来はフルパワーの16ノードを収める電力予算内で19ノードを稼働させた。その結果、クラスタのトークン処理量は毎秒約400万トークンから約500万トークンへ、24%増加。ワット当たり性能も23%改善したという。23

重要なのは、これは単なる理論上の省電力ではない点にある。データセンターでは、建物や敷地に引き込める電力が増設の上限になることがある。ワークロードごとに電力消費の波があるなら、未使用の余力をソフトウェアで活用することで、新たな受電設備や施設の電力枠を増やさずに実効出力を上げられる可能性がある。

Vera Rubinの数値は「将来予測」

NVIDIAは将来のVera Rubin NVL72導入についても、DSX MaxLPSにより、同じ拠点電力の範囲でGPU容量を最大40%増、トークン処理量を最大35%増やせる可能性があるとした。ただし、これは導入条件に左右される見通しとして提示されたものだ。23

ここはLambdaの結果と区別して読む必要がある。Lambdaの数値はBlackwellベース環境で報告された導入検証の結果であり、Vera Rubinの数値は将来プラットフォームに関するNVIDIAの予測である。23

電力網の状況に応じて負荷を動かす

NVIDIAがもう一つ強調したのが、AI工場を電力網に対して柔軟に応答できる設備へ変えることだ。すべての処理を同じ緊急度で扱わない、という発想である。

NVIDIAのEos AIファクトリーでは、Emerald AIのConductorプラットフォームがSilicon Valley Powerと連携する商用の柔軟負荷プログラムで使われた。NVIDIAによれば、この仕組みは電力会社からの需要シグナルに200回超応答し、実証イベントでは1分未満で施設の消費電力を4MWから3MWへ下げた。優先度の低い柔軟な計算処理を後回しにしつつ、優先度の高い推論は継続したという。23

NVIDIAはこれを、将来のDSX Flexが提供する機能の早期例として位置付ける。DSX Flexは負荷遮断、デマンドレスポンス、電力価格のシグナルを受け、ワークロードの優先順位に沿って処理を制御する構想だ。後回しにできる処理は停止・再開し、重要サービスは維持する。なお、Eosでの実証はDSX Flexそのものの導入事例ではなく、その方向性を示す商用規模の先行例だった。23

学習、バッチ処理、オフライン処理のすべてが、本番推論と同じ応答速度を必要とするわけではない。こうした負荷を柔軟に扱えれば、事業者は重要な推論を守りながら、電力網の需給調整プログラムにも参加しやすくなる。

チップ販売から「AI工場の運用基盤」へ

今回の発表は、NVIDIAを単なる部品供給企業ではなく、AI工場全体のプラットフォーム提供者として位置付ける内容だった。NVIDIAが示すスタックには、Vera Rubinのコンピュート、NVLinkによるスケールアップ・ネットワーク、Dynamo推論ソフトウェア、EthernetとSuperNICのネットワーク、BlueFieldのインフラコンポーネント、ラック単位の電力最適化、そして電力網を意識したワークロード運用が含まれる。2

Groq 3 LPXもこの構図の一部だ。NVIDIAはこれを、Vera Rubin向けの対話型推論アクセラレータと説明しており、エージェント型システムで求められる低遅延と大規模コンテキストへの対応を狙う。112 一方で、提供された根拠だけでは、発売時期や「メガワット当たり処理量が35倍」、2兆パラメータ超モデルに関する具体的な性能比較までは独立に裏付けられない。

巨大化する事業が、電力効率を経営課題にする

この戦略が重みを持つ背景には、NVIDIAのデータセンター事業の拡大がある。同社は2026年7月26日終了の2027年度第2四半期に、売上高962億ドル、前年同期比106%増を計上した。このうちデータセンター売上高は890億ドルだった。17 第3四半期の売上高見通しは、プラスマイナス2%の範囲で1080億ドルとしている。2830

導入規模が大きくなるほど、顧客にとっての実務上の焦点は「GPUを何枚置くか」だけではなくなる。必要な電力を確保できるか、限られた受電容量からどれだけ出力を引き出せるか、そして電力や運用上の変動があっても推論サービスを止めずに済むかが重要になる。

まとめ

NVIDIAの主張は、アクセラレータのピーク性能が不要になったということではない。ピーク性能だけでは、AI工場の経済性を測り切れなくなったということだ。

「メガワット当たりの実証済みトークン」という指標は、ハードウェア性能を、実運用で直面する制約――拠点電力、電力網イベント、ワークロードの優先順位、システム可用性――と結び付ける。Lambdaが報告した24%の処理量向上は、この考え方を支える初期の導入ベースのデータポイントといえる。一方、Vera RubinやDSXを巡るより広い効果は、今後の顧客環境での検証が必要なロードマップでもある。23