De cruciale vraag van de benchmark is: hoeveel van zulke agenten kan een systeem tegelijk ondersteunen, terwijl het binnen een acceptabele snelheid blijft? De resultaten worden uitgedrukt in het aantal gelijktijdige 'agents per megawatt' (agents/MW), een maatstaf die zowel pure kracht als energie-efficiëntie combineert .

Nvidia's overweldigende resultaten

Op de DeepSeek V4 Pro-workload – een groot Mixture-of-Experts (MoE)-model dat representatief is voor de krachtigste AI-agenten – leverde het Nvidia GB300 NVL72-systeem de absolute topprestatie .

De sprong ten opzichte van de vorige generatie is enorm:

• Tot 20 keer meer gelijktijdige agenten per megawatt dan het oudere Nvidia HGX H200 (Hopper)-systeem. Dit gold voor zowel de strikte 60 tokens/s-doelstelling als de soepelere 20 tokens/s .
• Op het makkelijkste serviceniveau (20 tokens per seconde, 10 seconden tijd tot eerste token) verwerkte een opgesplitste GB300-rackconfiguratie maar liefst 61.340 gelijktijdige agenten .
• Ter vergelijking: een AMD MI355X-accelerator kwam op 3.551 agents/MW en de oudere Nvidia H200 op 2.594 agents/MW .

De strategie achter de cijfers

Deze benchmark is geen op zichzelf staand succes, maar een bewuste zet in Nvidia's bredere strategie om Blackwell Ultra neer te zetten als hét platform voor agentic AI:

• Extreme co-design: Nvidia schrijft de 20x winst toe aan een volledig geïntegreerd ontwerp. De NVLink-technologie verbindt 72 GPU's tot één stof, CUDA-kernels overlappen communicatie met rekenwerk, en TensorRT LLM-optimalisaties zoals WideEP/DeepEP en DeepGEMM houden de efficiëntie hoog, zelfs onder extreme belasting .
• Totale benchmark-dominantie: AgentPerf is de nieuwste trofee in een toch al overvolle kast. Eerder zette Blackwell Ultra al records in MLPerf Inference v5.1 (1,4x hogere DeepSeek-R1-doorvoer) en won het alle zeven MLPerf Training v5.1-benchmarks .
• Bewijs uit de praktijk: Het gaat niet alleen om theorie. Partners zoals Together AI (dat de agent in Cursor aandrijft) en DeepInfra draaien al agentic workloads op Blackwell-hardware, wat moet bewijzen dat het platform klaar is voor echte productieomgevingen .
• Een blik vooruit: De blogpost van Nvidia hint ook op de volgende stap: de Vera Rubin-architectuur, die nu in productie is en nog meer capaciteit moet bieden voor agentic AI. Een technische deep-dive voorspelt al prestatiesprongen dankzij 50 PFLOPs aan NVFP4-rekenkracht .

Met de AgentPerf-resultaten maakt Nvidia één ding glashelder: in de race om de infrastructuur voor zelfstandig werkende AI-agenten, is de concurrentie voorlopig uit het zicht verdwenen.

De cruciale vraag van de benchmark is: hoeveel van zulke agenten kan een systeem tegelijk ondersteunen, terwijl het binnen een acceptabele snelheid blijft? De resultaten worden uitgedrukt in het aantal gelijktijdige 'agents per megawatt' (agents/MW), een maatstaf die zowel pure kracht als energie-efficiëntie combineert .

Nvidia's overweldigende resultaten

Op de DeepSeek V4 Pro-workload – een groot Mixture-of-Experts (MoE)-model dat representatief is voor de krachtigste AI-agenten – leverde het Nvidia GB300 NVL72-systeem de absolute topprestatie .

De sprong ten opzichte van de vorige generatie is enorm:

• Tot 20 keer meer gelijktijdige agenten per megawatt dan het oudere Nvidia HGX H200 (Hopper)-systeem. Dit gold voor zowel de strikte 60 tokens/s-doelstelling als de soepelere 20 tokens/s .
• Op het makkelijkste serviceniveau (20 tokens per seconde, 10 seconden tijd tot eerste token) verwerkte een opgesplitste GB300-rackconfiguratie maar liefst 61.340 gelijktijdige agenten .
• Ter vergelijking: een AMD MI355X-accelerator kwam op 3.551 agents/MW en de oudere Nvidia H200 op 2.594 agents/MW .

De strategie achter de cijfers

Deze benchmark is geen op zichzelf staand succes, maar een bewuste zet in Nvidia's bredere strategie om Blackwell Ultra neer te zetten als hét platform voor agentic AI:

• Extreme co-design: Nvidia schrijft de 20x winst toe aan een volledig geïntegreerd ontwerp. De NVLink-technologie verbindt 72 GPU's tot één stof, CUDA-kernels overlappen communicatie met rekenwerk, en TensorRT LLM-optimalisaties zoals WideEP/DeepEP en DeepGEMM houden de efficiëntie hoog, zelfs onder extreme belasting .
• Totale benchmark-dominantie: AgentPerf is de nieuwste trofee in een toch al overvolle kast. Eerder zette Blackwell Ultra al records in MLPerf Inference v5.1 (1,4x hogere DeepSeek-R1-doorvoer) en won het alle zeven MLPerf Training v5.1-benchmarks .
• Bewijs uit de praktijk: Het gaat niet alleen om theorie. Partners zoals Together AI (dat de agent in Cursor aandrijft) en DeepInfra draaien al agentic workloads op Blackwell-hardware, wat moet bewijzen dat het platform klaar is voor echte productieomgevingen .
• Een blik vooruit: De blogpost van Nvidia hint ook op de volgende stap: de Vera Rubin-architectuur, die nu in productie is en nog meer capaciteit moet bieden voor agentic AI. Een technische deep-dive voorspelt al prestatiesprongen dankzij 50 PFLOPs aan NVFP4-rekenkracht .

Met de AgentPerf-resultaten maakt Nvidia één ding glashelder: in de race om de infrastructuur voor zelfstandig werkende AI-agenten, is de concurrentie voorlopig uit het zicht verdwenen.