このベンチマークが重視するのは、システムがどれだけ多くの同時接続エージェントを、実用的な速度と応答性を保ちながら処理できるかです。評価は応答生成速度と初回応答までの待ち時間に対して厳格なSLO（サービスレベル目標）を設け、結果を「アクセラレータ（GPU）あたり」および「1メガワットの電力あたり」で正規化。これにより、データセンター事業者が最も関心を持つとされる「電力効率と大規模処理能力」を公平に比較できるようになっています 。

NVIDIA Blackwell Ultraの快挙：前世代比20倍の電力効率

今回、DeepSeek V4 Proという、最前線のエージェントAIを駆動する巨大なMoE（Mixture-of-Experts）モデルを用いたテストで、NVIDIAの「GB300 NVL72 (Blackwell Ultra) ラックスケールシステム」が、他プラットフォームを突き放し最高性能を達成しました 。

特に驚異的なのはその電力効率です。旧世代の「NVIDIA HGX H200 (Hopper)」システムと比較して、1メガワットあたり最大20倍のエージェントを同時処理できることが明らかになりました 。

Artificial Analysis社が公開した生データでは、最も基準の緩いSLO（20 tokens/秒, 初回応答10秒以内）において、ラックスケールの分散構成により61,340のエージェントを同時処理したことも報告されており、まさに桁違いの性能を見せつけました 。

なぜここまで速いのか：フルスタック最適化の本気

この20倍という飛躍的な性能向上は、単なるプロセスルールの微細化だけでは達成できません。NVIDIAは、ハードウェアからCUDAカーネル、推論エンジンに至るまでの徹底的な「コ・デザイン（協調設計）」の成果だとしています 。

• NVLinkによる超広帯域接続: 72基のGPUを1つの巨大なファブリックに束ね、GPU間の通信ボトルネックを極限まで排除。
• CUDAカーネルの最適化: MoEモデルの特性に合わせ、通信と計算をオーバーラップさせる高度なソフトウェア制御を実装。
• TensorRT LLMの進化: WideEP/DeepEPやDeepGEMM、融合MoEカーネルといった最新技術により、同時接続エージェント数が増加しても効率が落ちない持続的な高スループットを維持します 。

Blackwell Ultraが描く、エージェントAI帝国のグランドデザイン

今回のAgentPerfでの結果は、単発的な成功ではなく、NVIDIAが描く「エージェントAI時代のインフラ覇権」を固める大きな戦略の一部です。

1. ベンチマーク完全制覇: AgentPerfは、NVIDIAがBlackwell Ultraで既に席巻している既存のMLPerfベンチマーク群（推論・学習）に、新たなエージェントワークロードの軸を追加するものです 。NVIDIAは、MLPerf Inference v5.1でDeepSeek-R1の処理速度をBlackwell比で1.4倍向上させたのに続き、MLPerf Training v5.1でも7部門全てで最短学習時間を記録するなど、他を寄せ付けない実績を積み上げています 。
2. 「生産 ready」の証明: Together AI（Cursorのエージェントコーディングを支える）やDeepInfra（AI workforceのPam.aiを支える）といったパートナーがすでにBlackwell上でエージェントAIワークロードを運用している実績を示し、Blackwellが単なるベンチマーク用の試作機ではなく、商用環境で即戦力となる完成されたプラットフォームであることを強調しています 。
3. 次世代への布石: 公式ブログでは、エージェントAIの処理能力をさらに引き上げる次世代アーキテクチャ「Vera Rubin」の生産がすでに始まっていることを明言しています 。FP4精度で50ペタフロップスの計算能力や、強化されたLLMツール呼び出しアクセラレーションといった次の飛躍も視野に入っており、現在の成功を通過点としながら、顧客の将来投資を自社のロードマップに引き込む青写真を提示しています 。

NVIDIAは、単に速いチップを作っているだけではありません。エージェントが自律的にソフトウェアを書き、業務を改革する未来において、その「頭脳」を動かすための揺るぎない基盤を、電力効率という極めて現実的な指標とともに業界へ突きつけたのです。

このベンチマークが重視するのは、システムがどれだけ多くの同時接続エージェントを、実用的な速度と応答性を保ちながら処理できるかです。評価は応答生成速度と初回応答までの待ち時間に対して厳格なSLO（サービスレベル目標）を設け、結果を「アクセラレータ（GPU）あたり」および「1メガワットの電力あたり」で正規化。これにより、データセンター事業者が最も関心を持つとされる「電力効率と大規模処理能力」を公平に比較できるようになっています 。

NVIDIA Blackwell Ultraの快挙：前世代比20倍の電力効率

今回、DeepSeek V4 Proという、最前線のエージェントAIを駆動する巨大なMoE（Mixture-of-Experts）モデルを用いたテストで、NVIDIAの「GB300 NVL72 (Blackwell Ultra) ラックスケールシステム」が、他プラットフォームを突き放し最高性能を達成しました 。

特に驚異的なのはその電力効率です。旧世代の「NVIDIA HGX H200 (Hopper)」システムと比較して、1メガワットあたり最大20倍のエージェントを同時処理できることが明らかになりました 。

Artificial Analysis社が公開した生データでは、最も基準の緩いSLO（20 tokens/秒, 初回応答10秒以内）において、ラックスケールの分散構成により61,340のエージェントを同時処理したことも報告されており、まさに桁違いの性能を見せつけました 。

なぜここまで速いのか：フルスタック最適化の本気

この20倍という飛躍的な性能向上は、単なるプロセスルールの微細化だけでは達成できません。NVIDIAは、ハードウェアからCUDAカーネル、推論エンジンに至るまでの徹底的な「コ・デザイン（協調設計）」の成果だとしています 。

• NVLinkによる超広帯域接続: 72基のGPUを1つの巨大なファブリックに束ね、GPU間の通信ボトルネックを極限まで排除。
• CUDAカーネルの最適化: MoEモデルの特性に合わせ、通信と計算をオーバーラップさせる高度なソフトウェア制御を実装。
• TensorRT LLMの進化: WideEP/DeepEPやDeepGEMM、融合MoEカーネルといった最新技術により、同時接続エージェント数が増加しても効率が落ちない持続的な高スループットを維持します 。

Blackwell Ultraが描く、エージェントAI帝国のグランドデザイン

今回のAgentPerfでの結果は、単発的な成功ではなく、NVIDIAが描く「エージェントAI時代のインフラ覇権」を固める大きな戦略の一部です。

1. ベンチマーク完全制覇: AgentPerfは、NVIDIAがBlackwell Ultraで既に席巻している既存のMLPerfベンチマーク群（推論・学習）に、新たなエージェントワークロードの軸を追加するものです 。NVIDIAは、MLPerf Inference v5.1でDeepSeek-R1の処理速度をBlackwell比で1.4倍向上させたのに続き、MLPerf Training v5.1でも7部門全てで最短学習時間を記録するなど、他を寄せ付けない実績を積み上げています 。
2. 「生産 ready」の証明: Together AI（Cursorのエージェントコーディングを支える）やDeepInfra（AI workforceのPam.aiを支える）といったパートナーがすでにBlackwell上でエージェントAIワークロードを運用している実績を示し、Blackwellが単なるベンチマーク用の試作機ではなく、商用環境で即戦力となる完成されたプラットフォームであることを強調しています 。
3. 次世代への布石: 公式ブログでは、エージェントAIの処理能力をさらに引き上げる次世代アーキテクチャ「Vera Rubin」の生産がすでに始まっていることを明言しています 。FP4精度で50ペタフロップスの計算能力や、強化されたLLMツール呼び出しアクセラレーションといった次の飛躍も視野に入っており、現在の成功を通過点としながら、顧客の将来投資を自社のロードマップに引き込む青写真を提示しています 。

NVIDIAは、単に速いチップを作っているだけではありません。エージェントが自律的にソフトウェアを書き、業務を改革する未来において、その「頭脳」を動かすための揺るぎない基盤を、電力効率という極めて現実的な指標とともに業界へ突きつけたのです。