Huawei logró algo históricamente relevante. El framework Ascend 950DT + CANN alcanzó el mismo soporte Day 0 que Nvidia, siendo la primera vez que una plataforma no CUDA iguala a Nvidia en preparación para el lanzamiento de un modelo de escala fronteriza . Los benchmarks independientes en el chip Ascend 950PR muestran un rendimiento FP4 2,87 veces superior al H20 y una inferencia MoE hasta 1,96 veces más rápida en rollouts de RL . El inconveniente: el rendimiento máximo del hardware chino sigue limitado por las restricciones de fabricación, por lo que el rendimiento absoluto sigue por detrás de lo mejor de Nvidia.

El lanzamiento de AMD fue, francamente, un desastre. La MI355X solo podía ejecutar FP8 el día del lanzamiento — el checkpoint nativo FP4+FP8 era inutilizable — y ofrecía unos pobres 20,4 tok/s/GPU a 2,4 tok/s/usuario en la carga de trabajo 8K/1K . El stack ROCm no estaba optimizado; era un parche provisional.

La recuperación 110,5x de AMD: un sprint de software

Lo que siguió es la recuperación de rendimiento impulsada por software más dramática en la memoria reciente de la infraestructura de IA. En 26 días, el equipo de ingeniería de AMD SGLang, bajo la dirección técnica de HaiShaw, fusionó 31 solicitudes de extracción de optimización de rendimiento en la rama secundaria amd/deepseek_v4 . Cada PR abordaba una capa del stack ROCm que no había sido probada con un modelo MoE de esta escala.

Para el día 26 (20 de mayo de 2026), la MI355X alcanzó 2.256 tok/s/GPU a 9,4 tok/s/usuario en la carga de trabajo 8K/1K — una mejora 110,5x en rendimiento por GPU, mientras mejoraba simultáneamente la interactividad en 3,85x . Este es un resultado de optimización poco común en el que ambos ejes mejoran juntos: normalmente no se obtienen tiempos de respuesta por usuario más rápidos y un mayor rendimiento agregado del mismo hardware.

En puntos de interactividad comparables en InferenceX, la MI355X del día 26 alcanza aproximadamente 1.411 tok/s/GPU, situándola en el mismo nivel competitivo que la B200 de Nvidia en configuraciones de baja interactividad . Todavía está por detrás del GB300 NVL72 de Nvidia (que alcanza hasta 11.474 tok/s/GPU en condiciones óptimas), pero la trayectoria es importante: la MI355X pasó de ser un lanzamiento no funcional a una SKU de inferencia viable .

La tabla completa a los 43 días

El coste por millón de tokens cuenta la historia económica. Con baja interactividad, el GB300 NVL72 ofrece tokens a $0,064/M tok — aproximadamente 4,5 veces más barato que la MI355X a $0,291/M tok . Con mayor interactividad (menor concurrencia, mayor velocidad por usuario), la MI355X se vuelve competitiva en coste frente a la B200, situándose ambas alrededor de $1,22–$1,45/M tok con 23–24 usuarios concurrentes .

El verdadero facilitador: la arquitectura de atención híbrida de DeepSeek V4

Las cifras de los benchmarks son espectaculares, pero no tendrían sentido económico sin el avance arquitectónico de DeepSeek en el lado del modelo. La atención estándar de Transformer escala de forma cuadrática con la longitud del contexto. Con un millón de tokens, los costes de cómputo y memoria hacen que la ejecución no sea viable económicamente en ningún hardware. DeepSeek V4 reemplaza la atención estándar con una combinación híbrida de dos mecanismos complementarios:

Atención Comprimida Dispersa (CSA) opera a nivel de grano fino. Agrupa aproximadamente 4 tokens en una única entrada KV aprendida utilizando ponderación dependiente de los datos con ventanas superpuestas y, a continuación, aplica selección dispersa: cada consulta solo atiende a las entradas comprimidas top-k más relevantes, indexadas por un componente llamado Lightning Indexer . Una rama de atención de ventana deslizante se ejecuta en paralelo para preservar la precisión local .

Atención Fuertemente Comprimida (HCA) apuesta a lo grande. Comprime hasta 128 tokens en una única entrada KV y aplica atención densa sobre el flujo fuertemente comprimido . Esto intercambia precisión de recuperación por cobertura global completa a un coste marginal casi nulo. HCA se ejecuta en las primeras capas para proporcionar un panorama contextual barato; la capa final conserva la atención completa para máxima precisión .

Las ganancias de eficiencia combinadas son asombrosas en comparación con DeepSeek V3.2 con 1M de tokens:

• FLOPs de inferencia por token: 27% de V3.2 (reducción del 73%)
• Memoria caché KV: ~10% de V3.2 (aproximadamente 90% de reducción)
• Frente a una línea base GQA bfloat16: aproximadamente el 2% de la huella de caché

Para el modelo V4 Flash más pequeño, estas cifras se reducen aún más: 10% de FLOPs y 7% de caché KV .

Sin CSA y HCA, el modelo Pro de 1,6 billones de parámetros con contexto de 1M sería un proyecto de ciencia ficción — interesante pero inviable comercialmente. Con ellos, es un producto.

Lo que esto significa

Los datos de 43 días de SemiAnalysis cuentan tres historias en paralelo. Primero, la ventaja del ecosistema de Nvidia sigue siendo estructuralmente enorme: CUDA funciona, el día cero, siempre, y el hardware está genuinamente adelantado. Segundo, Huawei ha cerrado la brecha de preparación del software por completo — un cambio histórico con implicaciones geopolíticas que se desarrollarán en la próxima generación de hardware. Tercero, el hardware de AMD es capaz, pero el stack de software ROCm sigue siendo un cuello de botella que requiere un esfuerzo de ingeniería heroico para superarlo con cada nuevo modelo de frontera — una mejora de 110,5x en 26 días es impresionante, pero no debería ser necesaria.

El panorama general pertenece a los arquitectos. La atención híbrida CSA + HCA de DeepSeek no solo mejora la eficiencia, sino que cambia fundamentalmente lo que es viable comercialmente servir. Cuando un modelo de 1,6 billones de parámetros con contexto de un millón de tokens cuesta céntimos por millón de tokens en el hardware adecuado, la conversación pasa de «¿podemos hacer esto?» a «¿qué construimos con ello?»

Huawei logró algo históricamente relevante. El framework Ascend 950DT + CANN alcanzó el mismo soporte Day 0 que Nvidia, siendo la primera vez que una plataforma no CUDA iguala a Nvidia en preparación para el lanzamiento de un modelo de escala fronteriza . Los benchmarks independientes en el chip Ascend 950PR muestran un rendimiento FP4 2,87 veces superior al H20 y una inferencia MoE hasta 1,96 veces más rápida en rollouts de RL . El inconveniente: el rendimiento máximo del hardware chino sigue limitado por las restricciones de fabricación, por lo que el rendimiento absoluto sigue por detrás de lo mejor de Nvidia.

El lanzamiento de AMD fue, francamente, un desastre. La MI355X solo podía ejecutar FP8 el día del lanzamiento — el checkpoint nativo FP4+FP8 era inutilizable — y ofrecía unos pobres 20,4 tok/s/GPU a 2,4 tok/s/usuario en la carga de trabajo 8K/1K . El stack ROCm no estaba optimizado; era un parche provisional.

La recuperación 110,5x de AMD: un sprint de software

Lo que siguió es la recuperación de rendimiento impulsada por software más dramática en la memoria reciente de la infraestructura de IA. En 26 días, el equipo de ingeniería de AMD SGLang, bajo la dirección técnica de HaiShaw, fusionó 31 solicitudes de extracción de optimización de rendimiento en la rama secundaria amd/deepseek_v4 . Cada PR abordaba una capa del stack ROCm que no había sido probada con un modelo MoE de esta escala.

Para el día 26 (20 de mayo de 2026), la MI355X alcanzó 2.256 tok/s/GPU a 9,4 tok/s/usuario en la carga de trabajo 8K/1K — una mejora 110,5x en rendimiento por GPU, mientras mejoraba simultáneamente la interactividad en 3,85x . Este es un resultado de optimización poco común en el que ambos ejes mejoran juntos: normalmente no se obtienen tiempos de respuesta por usuario más rápidos y un mayor rendimiento agregado del mismo hardware.

En puntos de interactividad comparables en InferenceX, la MI355X del día 26 alcanza aproximadamente 1.411 tok/s/GPU, situándola en el mismo nivel competitivo que la B200 de Nvidia en configuraciones de baja interactividad . Todavía está por detrás del GB300 NVL72 de Nvidia (que alcanza hasta 11.474 tok/s/GPU en condiciones óptimas), pero la trayectoria es importante: la MI355X pasó de ser un lanzamiento no funcional a una SKU de inferencia viable .

La tabla completa a los 43 días

El coste por millón de tokens cuenta la historia económica. Con baja interactividad, el GB300 NVL72 ofrece tokens a $0,064/M tok — aproximadamente 4,5 veces más barato que la MI355X a $0,291/M tok . Con mayor interactividad (menor concurrencia, mayor velocidad por usuario), la MI355X se vuelve competitiva en coste frente a la B200, situándose ambas alrededor de $1,22–$1,45/M tok con 23–24 usuarios concurrentes .

El verdadero facilitador: la arquitectura de atención híbrida de DeepSeek V4

Las cifras de los benchmarks son espectaculares, pero no tendrían sentido económico sin el avance arquitectónico de DeepSeek en el lado del modelo. La atención estándar de Transformer escala de forma cuadrática con la longitud del contexto. Con un millón de tokens, los costes de cómputo y memoria hacen que la ejecución no sea viable económicamente en ningún hardware. DeepSeek V4 reemplaza la atención estándar con una combinación híbrida de dos mecanismos complementarios:

Atención Comprimida Dispersa (CSA) opera a nivel de grano fino. Agrupa aproximadamente 4 tokens en una única entrada KV aprendida utilizando ponderación dependiente de los datos con ventanas superpuestas y, a continuación, aplica selección dispersa: cada consulta solo atiende a las entradas comprimidas top-k más relevantes, indexadas por un componente llamado Lightning Indexer . Una rama de atención de ventana deslizante se ejecuta en paralelo para preservar la precisión local .

Atención Fuertemente Comprimida (HCA) apuesta a lo grande. Comprime hasta 128 tokens en una única entrada KV y aplica atención densa sobre el flujo fuertemente comprimido . Esto intercambia precisión de recuperación por cobertura global completa a un coste marginal casi nulo. HCA se ejecuta en las primeras capas para proporcionar un panorama contextual barato; la capa final conserva la atención completa para máxima precisión .

Las ganancias de eficiencia combinadas son asombrosas en comparación con DeepSeek V3.2 con 1M de tokens:

• FLOPs de inferencia por token: 27% de V3.2 (reducción del 73%)
• Memoria caché KV: ~10% de V3.2 (aproximadamente 90% de reducción)
• Frente a una línea base GQA bfloat16: aproximadamente el 2% de la huella de caché

Para el modelo V4 Flash más pequeño, estas cifras se reducen aún más: 10% de FLOPs y 7% de caché KV .

Sin CSA y HCA, el modelo Pro de 1,6 billones de parámetros con contexto de 1M sería un proyecto de ciencia ficción — interesante pero inviable comercialmente. Con ellos, es un producto.

Lo que esto significa

Los datos de 43 días de SemiAnalysis cuentan tres historias en paralelo. Primero, la ventaja del ecosistema de Nvidia sigue siendo estructuralmente enorme: CUDA funciona, el día cero, siempre, y el hardware está genuinamente adelantado. Segundo, Huawei ha cerrado la brecha de preparación del software por completo — un cambio histórico con implicaciones geopolíticas que se desarrollarán en la próxima generación de hardware. Tercero, el hardware de AMD es capaz, pero el stack de software ROCm sigue siendo un cuello de botella que requiere un esfuerzo de ingeniería heroico para superarlo con cada nuevo modelo de frontera — una mejora de 110,5x en 26 días es impresionante, pero no debería ser necesaria.

El panorama general pertenece a los arquitectos. La atención híbrida CSA + HCA de DeepSeek no solo mejora la eficiencia, sino que cambia fundamentalmente lo que es viable comercialmente servir. Cuando un modelo de 1,6 billones de parámetros con contexto de un millón de tokens cuesta céntimos por millón de tokens en el hardware adecuado, la conversación pasa de «¿podemos hacer esto?» a «¿qué construimos con ello?»