Huawei a réalisé un exploit historique. Le framework Ascend 950DT + CANN a offert le même support complet Day 0 que Nvidia — la première fois qu'une plateforme non-CUDA égalait Nvidia en matière de préparation au lancement pour un modèle de cette envergure . Des benchmarks indépendants sur l'Ascend 950PR de série ont montré un calcul FP4 2,87x plus rapide que le H20 et une inférence MoE jusqu'à 1,96x plus rapide dans les déploiements RL . Le bémol : le plafond de performance matérielle de la Chine reste contraint par les limites de fabrication, le débit absolu est donc toujours inférieur au meilleur de Nvidia.

Le lancement d'AMD a été, pour le dire franchement, un désastre. Le MI355X ne pouvait exécuter que du FP8 le premier jour — le checkpoint natif FP4+FP8 était inutilisable — et délivrait un piètre 20,4 tok/s/GPU à 2,4 tok/s/utilisateur sur la charge de travail 8K/1K . La pile ROCm n'était pas optimisée ; elle n'était qu'un placeholder.

Le rattrapage de 110,5x d'AMD : le sprint logiciel

Ce qui a suivi est la remontée de performance la plus spectaculaire de l'histoire récente de l'infrastructure IA. En 26 jours, l'équipe d'ingénierie SGLang d'AMD, sous la direction technique de HaiShaw, a fusionné 31 « pull requests » d'optimisation des performances sur la branche amd/deepseek_v4 . Chaque PR corrigeait une couche de la pile ROCm qui n'avait tout simplement pas été testée avec un modèle MoE de cette taille.

Au jour 26 (20 mai 2026), le MI355X atteignait 2 256 tok/s/GPU à 9,4 tok/s/utilisateur sur la charge de travail 8K/1K — soit une amélioration 110,5x du débit par GPU, tout en améliorant simultanément l'interactivité de 3,85x . C'est un résultat d'optimisation rare où les deux axes montent ensemble : il est exceptionnel d'obtenir à la fois des temps de réponse plus rapides par utilisateur et un débit global plus élevé sur le même matériel.

À des points d'interactivité comparables sur InferenceX, le MI355X du 26e jour atteint environ 1 411 tok/s/GPU, le plaçant dans la même catégorie compétitive que le B200 de Nvidia à faible interactivité . Il reste en retard sur le GB300 NVL72 de Nvidia (qui peut atteindre 11 474 tok/s/GPU dans des conditions optimales), mais la trajectoire est claire : le MI355X est passé d'un lancement non fonctionnel à un SKU d'inférence viable .

Le classement complet après 43 jours

Le coût par million de tokens raconte l'histoire économique. À faible interactivité, le GB300 NVL72 délivre des tokens à 0,064 $/M tok — environ 4,5x moins cher que le MI355X à 0,291 $/M tok . À interactivité plus élevée (moins de concurrence, vitesse par utilisateur plus élevée), le MI355X devient compétitif en termes de coût face au B200, les deux oscillant autour de 1,22 $–1,45 $/M tok avec 23 à 24 utilisateurs simultanés .

Le vrai catalyseur : l'architecture d'attention hybride de DeepSeek V4

Les chiffres des benchmarks sont impressionnants, mais ils seraient économiquement dénués de sens sans l'avancée architecturale du modèle côté DeepSeek. L'attention d'un Transformer standard évolue de manière quadratique avec la longueur du contexte. À un million de tokens, les coûts de calcul et de mémoire rendent le service économiquement irréalisable sur n'importe quel matériel. DeepSeek V4 remplace l'attention standard par un hybride de deux mécanismes complémentaires :

L'attention creuse compressée (CSA) opère à un niveau granulaire. Elle regroupe environ 4 tokens en une seule entrée KV apprise à l'aide d'une pondération dépendante des données avec des fenêtres chevauchantes, puis applique une sélection parcimonieuse — chaque requête ne s'intéresse qu'aux entrées compressées les plus pertinentes, indexées par un composant appelé le Lightning Indexer . Une branche d'attention à fenêtre glissante fonctionne en parallèle pour préserver la précision locale .

L'attention fortement compressée (HCA) fait un pari plus large. Elle compresse jusqu'à 128 tokens en une seule entrée KV et applique une attention dense sur le flux fortement compressé . Cette approche sacrifie la précision de récupération au profit d'une couverture globale complète à un coût quasi nul. HCA fonctionne dans les premières couches pour fournir un panorama contextuel économique ; la dernière couche conserve une attention totale pour une précision maximale .

Les gains d'efficacité combinés sont stupéfiants par rapport à DeepSeek V3.2 à 1M tokens :

• FLOPs d'inférence par token : 27 % de V3.2 (réduction de 73 %)
• Mémoire cache KV : ~10 % de V3.2 (réduction d'environ 90 %)
• Par rapport à une baseline GQA bfloat16 : environ 2 % de l'empreinte cache

Pour le modèle V4 Flash plus petit, ces chiffres chutent encore plus : 10 % des FLOPs et 7 % du cache KV .

Sans CSA et HCA, le modèle Pro de 1,6 billion de paramètres avec un contexte d'1M de tokens serait un projet de science — intéressant mais commercialement impossible à servir. Avec eux, c'est un produit.

Ce que cela signifie

Les données de SemiAnalysis sur 43 jours racontent trois histoires en parallèle. Premièrement, l'avantage de l'écosystème de Nvidia reste structurellement énorme : CUDA fonctionne, au jour 1, à chaque fois, et le matériel est véritablement en avance. Deuxièmement, Huawei a entièrement comblé le fossé de la préparation logicielle — un changement historique aux implications géopolitiques qui se joueront sur la prochaine génération de matériel. Troisièmement, le matériel d'AMD est capable, mais la pile logicielle ROCm reste un goulot d'étranglement qui nécessite un effort d'ingénierie héroïque pour chaque nouveau modèle frontalier — une amélioration de 110,5x en 26 jours est impressionnante, mais elle ne devrait pas être nécessaire.

Le tableau d'ensemble appartient aux architectes. L'attention hybride CSA + HCA de DeepSeek n'améliore pas seulement l'efficacité — elle change fondamentalement ce qu'il est commercialement viable de servir. Lorsqu'un modèle de 1,6 billion de paramètres avec un contexte d'un million de tokens coûte quelques centimes par million de tokens sur le bon matériel, la conversation passe de « pouvons-nous le faire ? » à « que construisons-nous avec ? »

Huawei a réalisé un exploit historique. Le framework Ascend 950DT + CANN a offert le même support complet Day 0 que Nvidia — la première fois qu'une plateforme non-CUDA égalait Nvidia en matière de préparation au lancement pour un modèle de cette envergure . Des benchmarks indépendants sur l'Ascend 950PR de série ont montré un calcul FP4 2,87x plus rapide que le H20 et une inférence MoE jusqu'à 1,96x plus rapide dans les déploiements RL . Le bémol : le plafond de performance matérielle de la Chine reste contraint par les limites de fabrication, le débit absolu est donc toujours inférieur au meilleur de Nvidia.

Le lancement d'AMD a été, pour le dire franchement, un désastre. Le MI355X ne pouvait exécuter que du FP8 le premier jour — le checkpoint natif FP4+FP8 était inutilisable — et délivrait un piètre 20,4 tok/s/GPU à 2,4 tok/s/utilisateur sur la charge de travail 8K/1K . La pile ROCm n'était pas optimisée ; elle n'était qu'un placeholder.

Le rattrapage de 110,5x d'AMD : le sprint logiciel

Ce qui a suivi est la remontée de performance la plus spectaculaire de l'histoire récente de l'infrastructure IA. En 26 jours, l'équipe d'ingénierie SGLang d'AMD, sous la direction technique de HaiShaw, a fusionné 31 « pull requests » d'optimisation des performances sur la branche amd/deepseek_v4 . Chaque PR corrigeait une couche de la pile ROCm qui n'avait tout simplement pas été testée avec un modèle MoE de cette taille.

Au jour 26 (20 mai 2026), le MI355X atteignait 2 256 tok/s/GPU à 9,4 tok/s/utilisateur sur la charge de travail 8K/1K — soit une amélioration 110,5x du débit par GPU, tout en améliorant simultanément l'interactivité de 3,85x . C'est un résultat d'optimisation rare où les deux axes montent ensemble : il est exceptionnel d'obtenir à la fois des temps de réponse plus rapides par utilisateur et un débit global plus élevé sur le même matériel.

À des points d'interactivité comparables sur InferenceX, le MI355X du 26e jour atteint environ 1 411 tok/s/GPU, le plaçant dans la même catégorie compétitive que le B200 de Nvidia à faible interactivité . Il reste en retard sur le GB300 NVL72 de Nvidia (qui peut atteindre 11 474 tok/s/GPU dans des conditions optimales), mais la trajectoire est claire : le MI355X est passé d'un lancement non fonctionnel à un SKU d'inférence viable .

Le classement complet après 43 jours

Le coût par million de tokens raconte l'histoire économique. À faible interactivité, le GB300 NVL72 délivre des tokens à 0,064 $/M tok — environ 4,5x moins cher que le MI355X à 0,291 $/M tok . À interactivité plus élevée (moins de concurrence, vitesse par utilisateur plus élevée), le MI355X devient compétitif en termes de coût face au B200, les deux oscillant autour de 1,22 $–1,45 $/M tok avec 23 à 24 utilisateurs simultanés .

Le vrai catalyseur : l'architecture d'attention hybride de DeepSeek V4

Les chiffres des benchmarks sont impressionnants, mais ils seraient économiquement dénués de sens sans l'avancée architecturale du modèle côté DeepSeek. L'attention d'un Transformer standard évolue de manière quadratique avec la longueur du contexte. À un million de tokens, les coûts de calcul et de mémoire rendent le service économiquement irréalisable sur n'importe quel matériel. DeepSeek V4 remplace l'attention standard par un hybride de deux mécanismes complémentaires :

L'attention creuse compressée (CSA) opère à un niveau granulaire. Elle regroupe environ 4 tokens en une seule entrée KV apprise à l'aide d'une pondération dépendante des données avec des fenêtres chevauchantes, puis applique une sélection parcimonieuse — chaque requête ne s'intéresse qu'aux entrées compressées les plus pertinentes, indexées par un composant appelé le Lightning Indexer . Une branche d'attention à fenêtre glissante fonctionne en parallèle pour préserver la précision locale .

L'attention fortement compressée (HCA) fait un pari plus large. Elle compresse jusqu'à 128 tokens en une seule entrée KV et applique une attention dense sur le flux fortement compressé . Cette approche sacrifie la précision de récupération au profit d'une couverture globale complète à un coût quasi nul. HCA fonctionne dans les premières couches pour fournir un panorama contextuel économique ; la dernière couche conserve une attention totale pour une précision maximale .

Les gains d'efficacité combinés sont stupéfiants par rapport à DeepSeek V3.2 à 1M tokens :

• FLOPs d'inférence par token : 27 % de V3.2 (réduction de 73 %)
• Mémoire cache KV : ~10 % de V3.2 (réduction d'environ 90 %)
• Par rapport à une baseline GQA bfloat16 : environ 2 % de l'empreinte cache

Pour le modèle V4 Flash plus petit, ces chiffres chutent encore plus : 10 % des FLOPs et 7 % du cache KV .

Sans CSA et HCA, le modèle Pro de 1,6 billion de paramètres avec un contexte d'1M de tokens serait un projet de science — intéressant mais commercialement impossible à servir. Avec eux, c'est un produit.

Ce que cela signifie

Les données de SemiAnalysis sur 43 jours racontent trois histoires en parallèle. Premièrement, l'avantage de l'écosystème de Nvidia reste structurellement énorme : CUDA fonctionne, au jour 1, à chaque fois, et le matériel est véritablement en avance. Deuxièmement, Huawei a entièrement comblé le fossé de la préparation logicielle — un changement historique aux implications géopolitiques qui se joueront sur la prochaine génération de matériel. Troisièmement, le matériel d'AMD est capable, mais la pile logicielle ROCm reste un goulot d'étranglement qui nécessite un effort d'ingénierie héroïque pour chaque nouveau modèle frontalier — une amélioration de 110,5x en 26 jours est impressionnante, mais elle ne devrait pas être nécessaire.

Le tableau d'ensemble appartient aux architectes. L'attention hybride CSA + HCA de DeepSeek n'améliore pas seulement l'efficacité — elle change fondamentalement ce qu'il est commercialement viable de servir. Lorsqu'un modèle de 1,6 billion de paramètres avec un contexte d'un million de tokens coûte quelques centimes par million de tokens sur le bon matériel, la conversation passe de « pouvons-nous le faire ? » à « que construisons-nous avec ? »