Nvidia écrase le premier benchmark dédié à l'IA agentique

Voici les principaux enseignements des premiers résultats publiés par Artificial Analysis pour son benchmark AA-AgentPerf, annoncés le 12 juin 2026.

Qu'est-ce que mesure AgentPerf ?

AA-AgentPerf est le premier benchmark matériel ouvert et multi-fournisseur spécifiquement conçu pour les charges de travail d'inférence d'IA agentique. Contrairement aux tests de chatbots classiques, il ne mesure pas de simples questions-réponses .

Il évalue combien d'agents de codage d'IA simultanés un système d'inférence peut supporter tout en respectant des objectifs de service stricts (SLO), notamment la vitesse de génération de texte et le temps de réponse initial (TTFT).

Le benchmark se base sur des scénarios réels de codage, puisés dans des dépôts publics couvrant plus de 12 langages de programmation. Il enchaîne plusieurs appels à des grands modèles de langage (LLM), des appels d'outils (simulés avec des temps de latence CPU réalistes) et des fenêtres de contexte qui s'agrandissent au fil de la tâche . Les résultats sont normalisés par accélérateur et par mégawatt (MW), ce qui permet de comparer l'efficacité énergétique .

Les résultats de Nvidia

• La plateforme Nvidia GB300 NVL72 (Blackwell Ultra) a offert la performance la plus élevée parmi toutes les solutions testées avec le modèle DeepSeek V4 Pro, un grand modèle à mélange d'experts (MoE) représentatif de l'IA agentique de pointe .
• Jusqu'à 20 fois plus d'agents simultanés par mégawatt par rapport au système Nvidia HGX H200 (architecture Hopper) de la génération précédente, et ce à deux niveaux d'exigence de vitesse (20 tokens/s et 60 tokens/s) .
• Les données brutes de performance publiées par Artificial Analysis sur les réseaux sociaux montrent que la configuration en baie désagrégée GB300 a atteint 61 340 agents simultanés au niveau de service le plus accessible (20 tokens/s de sortie, 10 secondes de TTFT) .

Quelle place dans la stratégie de Nvidia ?

Ces résultats ne sont pas un coup isolé. Ils s'inscrivent dans une stratégie coordonnée visant à faire de la plateforme Blackwell Ultra la référence absolue pour l'IA agentique à grande échelle :

• Optimisation complète. Nvidia explique ce gain de performance par une conception extrêmement intégrée : la technologie d'interconnexion NVLink, qui relie 72 GPU en un seul maillage, des noyaux CUDA qui superposent communication et calcul pour les modèles MoE, et des optimisations logicielles de TensorRT LLM (comme WideEP/DeepEP ou DeepGEMM) qui maintiennent l'efficacité même quand le nombre de sessions d'agents simultanés augmente .
• Domination étendue des benchmarks. AgentPerf ajoute une dimension agentique aux très bons résultats déjà obtenus par Nvidia sur les traditionnels benchmarks MLPerf. Avec Blackwell Ultra, Nvidia avait déjà établi un record en inférence sur MLPerf v5.1 (un débit 1,4 fois supérieur à la puce Blackwell de base sur le modèle DeepSeek-R1) et remporté haut la main les sept tests de la catégorie entraînement de MLPerf v5.1 .
• Preuves dans l'écosystème. Nvidia précise que des partenaires comme Together AI (qui alimente l'outil de codage agentique Cursor) et DeepInfra (qui soutient la plateforme de main-d'œuvre IA Pam.ai) font déjà tourner des charges de travail agentiques sur Blackwell. L'idée est claire : montrer que cette plateforme est prête pour la production, et pas seulement pour les bancs d'essai .
• Une feuille de route déjà tournée vers l'avenir. L'annonce d'AgentPerf évoque déjà la prochaine architecture Vera Rubin (actuellement en production) comme la future étape pour la capacité d'IA agentique . Une analyse technique complémentaire mentionne également des améliorations projetées à 50 PFLOPs de calcul en précision NVFP4 et une accélération des appels d'outils par LLM .