RéponsesPublié16 sources
MLPerf Inference v6.1 : la course à l’inférence ne se résume plus à la vitesse des GPU
AMD a signé le plus grand résultat agrégé avec 512 GPU Instinct MI355X, tandis que NVIDIA a présenté Vera Rubin NVL72 en préversion, jusqu’à 3,7 fois plus rapide que GB300 NVL72 sur Qwen3 VL. Le cycle v6.1 réunit un record de 30 organisations soumissionnaires et 486 résultats datacenter et edge, avec de nouveaux tes...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- AMD a signé le plus grand résultat agrégé avec 512 GPU Instinct MI355X, tandis que NVIDIA a présenté Vera Rubin NVL72 en préversion, jusqu’à 3,7 fois plus rapide que GB300 NVL72 sur Qwen3 VL.
- Le cycle v6.1 réunit un record de 30 organisations soumissionnaires et 486 résultats datacenter et edge, avec de nouveaux tests RAG de bout en bout et d’inférence agentique en périphérie.
- Pour les acheteurs, les progrès logiciels sur le matériel déjà déployé, la disponibilité effective et la reproductibilité opérationnelle comptent autant que les spécifications d’un accélérateur.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What were the key results and broader implications of MLCommons’ MLPerf Inference v6.1 benchmarks, including AMD’s record-setting MI355X per. Article summary: MLPerf Inference v6.1 showed a more competitive and more deployment-oriented inference market: AMD set aggregate-scale records, NVIDIA demonstrated its next platform while retaining strong Blackwell results, Intel broade. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
MLPerf Inference v6.1 n’est plus un simple classement de puces. Cette édition illustre l’évolution des services d’IA : la performance dépend désormais du GPU, mais aussi du logiciel d’inférence, du réseau, de l’intégration à l’échelle et du type précis d’application exécutée.
Les signaux les plus marquants sont le système AMD Instinct MI355X de 512 GPU, les premiers chiffres publics de NVIDIA Vera Rubin, encore en préversion, l’élargissement des configurations Intel et l’arrivée de tests dédiés au RAG et aux agents. La bonne unité de comparaison n’est donc plus un accélérateur isolé, mais un système disponible capable de servir un modèle pertinent dans les contraintes de latence requises.
AMD : le record agrégé souligne l’importance de l’échelle
La performance phare d’AMD vient de la configuration Crusoe à 512 GPU Instinct MI355X, qui a affiché les plus hauts débits agrégés de jetons rapportés dans ce cycle MLPerf v6.1. 5 C’est une démonstration significative à très grande échelle : elle mesure non seulement les accélérateurs, mais aussi l’inférence distribuée, le réseau et l’intégration d’un vaste déploiement.
Ce résultat ne désigne toutefois pas un vainqueur universel. Comparer directement un total obtenu avec 512 GPU à une baie ou à un cluster plus réduit n’a de sens qu’après normalisation selon le nombre de GPU, le modèle, le scénario de test et les exigences de niveau de service. Le débit agrégé est central pour une immense flotte d’inférence ; dans un projet donné, le débit par accélérateur, la densité par baie, la consommation électrique, la disponibilité et la complexité d’exploitation peuvent peser davantage.
ROCm : le logiciel devient un levier stratégique
Le dossier AMD est aussi une affaire de logiciel. L’entreprise a mis en avant des performances plus élevées sur le même matériel MI355X que lors du cycle MLPerf précédent, en les attribuant aux optimisations de ROCm. L’enseignement est clair : compilateurs, noyaux de calcul, moteurs d’exécution de modèles et logiciels de service distribué peuvent accroître la capacité utile d’un parc installé sans renouvellement matériel.
AMD s’est en outre engagé sur un rythme de publication de ROCm toutes les six semaines. Si cette cadence se traduit par des gains durables et réellement déployables, la rapidité d’évolution logicielle pourrait devenir un élément concret du calcul du coût par jeton. Ces progrès restent néanmoins à vérifier dans chaque environnement : modèle utilisé, quantification, framework, profil de trafic et objectif de latence peuvent modifier fortement le résultat en production.
NVIDIA : Vera Rubin donne un aperçu de la prochaine plateforme
NVIDIA Vera Rubin NVL72 apparaît pour la première fois dans MLPerf Inference sous le statut de préversion. NVIDIA indique un débit jusqu’à 3,7 fois supérieur à celui de GB300 NVL72 sur Qwen3-VL ; l’entreprise rapporte aussi 99 % d’efficacité de mise à l’échelle pour une soumission GB300 NVL72 de 288 GPU répartis sur quatre baies. 2
La réserve essentielle concerne la disponibilité. Des résultats de préversion apportent des indications utiles sur l’architecture et la maturité du logiciel, mais ne constituent pas automatiquement une comparaison d’achat équivalente avec des systèmes commercialement disponibles. Les soumissions de préversion reposaient aussi sur des tailles de clusters différentes : comparer le débit par GPU, ou un indicateur normalisé, est donc plus éclairant que le débit total seul. 8
Blackwell et Blackwell Ultra restent au cœur des déploiements à court terme. CoreWeave a, par exemple, revendiqué les meilleurs résultats parmi les fournisseurs cloud pour plusieurs configurations Blackwell et Blackwell Ultra sur Qwen3-VL, DeepSeek-R1 et GPT-OSS-120B. 4 Le constat pratique est celui d’un marché segmenté : la capacité agrégée des grands clusters, le service à l’échelle d’une baie, l’inférence multimodale et la latence interactive peuvent chacun favoriser des architectures différentes.
Intel élargit le spectre des systèmes représentés
Les soumissions d’Intel renforcent la visibilité de l’inférence sur CPU et sur GPU de station de travail. Son nœud à quatre Arc Pro B70 totalise 128 Go de VRAM et a produit des résultats sur Llama, GPT-OSS-120B, Whisper ainsi que le nouveau test RAG de bout en bout. Intel fait également état de gains dus au logiciel sur cette même configuration Arc Pro B70 par rapport au cycle précédent. 3
Cela ne fait pas d’Arc Pro une alternative directe aux vastes clusters d’accélérateurs de datacenter. En revanche, le benchmark représente mieux les organisations qui évaluent des déploiements plus petits, moins coûteux ou plus souples, notamment lorsque la capacité mémoire, l’inférence locale ou l’infrastructure serveur existante déterminent le choix.
Les tests RAG et agentiques rapprochent MLPerf des usages réels
MLCommons a recensé un record de 30 organisations soumissionnaires et 486 résultats, entre datacenter et edge, dans cette version 6.1. La suite introduit un benchmark RAG de bout en bout pour le datacenter et un benchmark d’inférence agentique sur appareils edge, reflet du passage des requêtes uniques vers des applications d’IA en plusieurs étapes. 9
Cette évolution compte, car les charges agentiques révèlent des goulots d’étranglement qu’un test classique de débit de jetons hors ligne peut ignorer : interactions à plusieurs tours, appels d’outils, orchestration et réactivité entre les étapes. MLCommons présente son test edge comme représentatif de tâches complexes à plusieurs tours, telles que la programmation assistée par agent. 9
Il s’agit toujours de benchmarks contrôlés, non d’une reproduction exhaustive d’un service en production. Mais ils rapprochent l’évaluation des charges que les équipes cherchent désormais à mettre en œuvre.
MLPerf Endpoints : vers des mesures de service en continu ?
MLCommons a également évoqué MLPerf Endpoints comme une possible orientation future. La différence est importante : les soumissions périodiques de benchmarks mesurent des exécutions données, tandis que des points d’accès d’inférence observables pourraient mieux refléter le comportement d’un service actif.
Un programme mature centré sur les endpoints pourrait donner plus de poids à la performance sous charge, à la régularité de la latence, à la disponibilité et à la répétabilité opérationnelle, plutôt qu’à un seul pic de performance lors d’un test fixe. À ce stade, il faut y voir une direction de mesure émergente, pas un remplacement finalisé du processus de soumission actuel.
Le critère d’achat : comparer la pile complète, pas le chiffre d’accroche
MLPerf v6.1 montre que la concurrence dans l’inférence repose sur trois facteurs liés : la capacité de l’accélérateur, la progression du logiciel et l’intégration système. La soumission MI355X d’AMD démontre le poids de l’échelle ; l’aperçu de Vera Rubin indique la prochaine marche de performance, tandis que Blackwell répond aux besoins actuels ; les résultats Arc Pro B70 d’Intel élargissent la diversité matérielle ; et les nouveaux tests de MLCommons reconnaissent que le RAG et les agents imposent d’autres contraintes.
Pour choisir une plateforme, il faut partir de la charge de travail et de l’objectif d’exploitation : modèle, longueur de contexte, concurrence, objectif de niveau de service en latence, enveloppe énergétique, taille du déploiement et coût par résultat utile. Les systèmes doivent ensuite être comparés à échelle et disponibilité équivalentes. Cette méthode est bien plus utile que de traiter un seul titre MLPerf comme une réponse définitive.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « MLPerf Inference v6.1 : la course à l’inférence ne se résume plus à la vitesse des GPU » ?
AMD a signé le plus grand résultat agrégé avec 512 GPU Instinct MI355X, tandis que NVIDIA a présenté Vera Rubin NVL72 en préversion, jusqu’à 3,7 fois plus rapide que GB300 NVL72 sur Qwen3 VL.
Quels sont les points clés à valider en premier ?
AMD a signé le plus grand résultat agrégé avec 512 GPU Instinct MI355X, tandis que NVIDIA a présenté Vera Rubin NVL72 en préversion, jusqu’à 3,7 fois plus rapide que GB300 NVL72 sur Qwen3 VL. Le cycle v6.1 réunit un record de 30 organisations soumissionnaires et 486 résultats datacenter et edge, avec de nouveaux tests RAG de bout en bout et d’inférence agentique en périphérie.
Que dois-je faire ensuite en pratique ?
Pour les acheteurs, les progrès logiciels sur le matériel déjà déployé, la disponibilité effective et la reproductibilité opérationnelle comptent autant que les spécifications d’un accélérateur.