Les résultats de Nvidia

• La plateforme Nvidia GB300 NVL72 (Blackwell Ultra) a offert la performance la plus élevée parmi toutes les solutions testées avec le modèle DeepSeek V4 Pro, un grand modèle à mélange d'experts (MoE) représentatif de l'IA agentique de pointe .
• Jusqu'à 20 fois plus d'agents simultanés par mégawatt par rapport au système Nvidia HGX H200 (architecture Hopper) de la génération précédente, et ce à deux niveaux d'exigence de vitesse (20 tokens/s et 60 tokens/s) .
• Les données brutes de performance publiées par Artificial Analysis sur les réseaux sociaux montrent que la configuration en baie désagrégée GB300 a atteint 61 340 agents simultanés au niveau de service le plus accessible (20 tokens/s de sortie, 10 secondes de TTFT) .

Quelle place dans la stratégie de Nvidia ?

Ces résultats ne sont pas un coup isolé. Ils s'inscrivent dans une stratégie coordonnée visant à faire de la plateforme Blackwell Ultra la référence absolue pour l'IA agentique à grande échelle :

• Optimisation complète. Nvidia explique ce gain de performance par une conception extrêmement intégrée : la technologie d'interconnexion NVLink, qui relie 72 GPU en un seul maillage, des noyaux CUDA qui superposent communication et calcul pour les modèles MoE, et des optimisations logicielles de TensorRT LLM (comme WideEP/DeepEP ou DeepGEMM) qui maintiennent l'efficacité même quand le nombre de sessions d'agents simultanés augmente .
• Domination étendue des benchmarks. AgentPerf ajoute une dimension agentique aux très bons résultats déjà obtenus par Nvidia sur les traditionnels benchmarks MLPerf. Avec Blackwell Ultra, Nvidia avait déjà établi un record en inférence sur MLPerf v5.1 (un débit 1,4 fois supérieur à la puce Blackwell de base sur le modèle DeepSeek-R1) et remporté haut la main les sept tests de la catégorie entraînement de MLPerf v5.1 .
• Preuves dans l'écosystème. Nvidia précise que des partenaires comme Together AI (qui alimente l'outil de codage agentique Cursor) et DeepInfra (qui soutient la plateforme de main-d'œuvre IA Pam.ai) font déjà tourner des charges de travail agentiques sur Blackwell. L'idée est claire : montrer que cette plateforme est prête pour la production, et pas seulement pour les bancs d'essai .
• Une feuille de route déjà tournée vers l'avenir. L'annonce d'AgentPerf évoque déjà la prochaine architecture Vera Rubin (actuellement en production) comme la future étape pour la capacité d'IA agentique . Une analyse technique complémentaire mentionne également des améliorations projetées à 50 PFLOPs de calcul en précision NVFP4 et une accélération des appels d'outils par LLM .

Les résultats de Nvidia

• La plateforme Nvidia GB300 NVL72 (Blackwell Ultra) a offert la performance la plus élevée parmi toutes les solutions testées avec le modèle DeepSeek V4 Pro, un grand modèle à mélange d'experts (MoE) représentatif de l'IA agentique de pointe .
• Jusqu'à 20 fois plus d'agents simultanés par mégawatt par rapport au système Nvidia HGX H200 (architecture Hopper) de la génération précédente, et ce à deux niveaux d'exigence de vitesse (20 tokens/s et 60 tokens/s) .
• Les données brutes de performance publiées par Artificial Analysis sur les réseaux sociaux montrent que la configuration en baie désagrégée GB300 a atteint 61 340 agents simultanés au niveau de service le plus accessible (20 tokens/s de sortie, 10 secondes de TTFT) .

Quelle place dans la stratégie de Nvidia ?

Ces résultats ne sont pas un coup isolé. Ils s'inscrivent dans une stratégie coordonnée visant à faire de la plateforme Blackwell Ultra la référence absolue pour l'IA agentique à grande échelle :

• Optimisation complète. Nvidia explique ce gain de performance par une conception extrêmement intégrée : la technologie d'interconnexion NVLink, qui relie 72 GPU en un seul maillage, des noyaux CUDA qui superposent communication et calcul pour les modèles MoE, et des optimisations logicielles de TensorRT LLM (comme WideEP/DeepEP ou DeepGEMM) qui maintiennent l'efficacité même quand le nombre de sessions d'agents simultanés augmente .
• Domination étendue des benchmarks. AgentPerf ajoute une dimension agentique aux très bons résultats déjà obtenus par Nvidia sur les traditionnels benchmarks MLPerf. Avec Blackwell Ultra, Nvidia avait déjà établi un record en inférence sur MLPerf v5.1 (un débit 1,4 fois supérieur à la puce Blackwell de base sur le modèle DeepSeek-R1) et remporté haut la main les sept tests de la catégorie entraînement de MLPerf v5.1 .
• Preuves dans l'écosystème. Nvidia précise que des partenaires comme Together AI (qui alimente l'outil de codage agentique Cursor) et DeepInfra (qui soutient la plateforme de main-d'œuvre IA Pam.ai) font déjà tourner des charges de travail agentiques sur Blackwell. L'idée est claire : montrer que cette plateforme est prête pour la production, et pas seulement pour les bancs d'essai .
• Une feuille de route déjà tournée vers l'avenir. L'annonce d'AgentPerf évoque déjà la prochaine architecture Vera Rubin (actuellement en production) comme la future étape pour la capacité d'IA agentique . Une analyse technique complémentaire mentionne également des améliorations projetées à 50 PFLOPs de calcul en précision NVFP4 et une accélération des appels d'outils par LLM .