A Huawei conseguiu algo historicamente significativo. O framework Ascend 950DT + CANN alcançou o mesmo suporte full-stack no Day 0 que a Nvidia — a primeira vez que uma plataforma não-CUDA igualou a Nvidia em prontidão de lançamento para um modelo de fronteira . Benchmarks independentes no Ascend 950PR, já em produção, mostraram computação FP4 a 2,87x a taxa do H20 e inferência MoE até 1,96x mais rápida em rollouts de RL . A ressalva: o teto de desempenho do hardware chinês ainda é limitado pelas restrições de fabricação, então a taxa de transferência absoluta ainda fica atrás do melhor da Nvidia.

A estreia da AMD foi, para ser direto, um desastre. O MI355X só conseguiu rodar FP8 no Day 0 — o checkpoint nativo FP4+FP8 era inutilizável — e entregou apenas 20,4 tok/s/GPU a 2,4 tok/s/usuário na carga de trabalho 8K/1K . O stack ROCm não estava otimizado; era um placeholder.

A Recuperação de 110,5x da AMD: A Corrida do Software

O que se seguiu é a recuperação de desempenho impulsionada por software mais dramática da memória recente em infraestrutura de IA. Ao longo de 26 dias, a equipe de engenharia SGLang da AMD, sob a liderança técnica de HaiShaw, fez o merge de 31 pull requests de otimização de desempenho no branch lateral amd/deepseek_v4 . Cada PR endereçou uma camada do stack ROCm que estava essencialmente não testada com um modelo MoE dessa escala.

No Dia 26 (20 de maio de 2026), o MI355X atingiu 2.256 tok/s/GPU a 9,4 tok/s/usuário na carga de trabalho 8K/1K — uma melhoria de 110,5x na taxa de transferência por GPU, enquanto simultaneamente melhorava a interatividade em 3,85x . Este é um raro resultado de otimização onde ambos os eixos sobem juntos: você normalmente não obtém tempos de resposta por usuário mais rápidos e maior taxa de transferência agregada do mesmo hardware.

Em pontos de interatividade comparáveis no InferenceX, o MI355X do Dia 26 atinge aproximadamente 1.411 tok/s/GPU, colocando-o no mesmo patamar competitivo do Nvidia B200 em configurações de baixa interatividade . Ele ainda fica atrás do Nvidia GB300 NVL72 (que atinge até 11.474 tok/s/GPU em condições ideais), mas a trajetória é o que importa: o MI355X saiu de um lançamento não funcional para se tornar um SKU de inferência viável .

O Ranking Completo aos 43 Dias

O custo por milhão de tokens conta a história econômica. Em baixa interatividade, o GB300 NVL72 entrega tokens a $0,064/M tok — cerca de 4,5x mais barato que o MI355X a $0,291/M tok . Em interatividade mais alta (menor concorrência, maior velocidade por usuário), o MI355X se torna competitivo em custo contra o B200, com ambos pairando em torno de $1,22–$1,45/M tok com 23–24 usuários concorrentes .

O Verdadeiro Viabilizador: A Arquitetura de Atenção Híbrida do DeepSeek V4

Os números dos benchmarks são impressionantes, mas seriam economicamente insignificantes sem o avanço arquitetônico da DeepSeek no lado do modelo. A atenção do Transformer padrão escala quadraticamente com o comprimento do contexto. Em 1 milhão de tokens, os custos de computação e memória tornam o serviço economicamente inviável em qualquer hardware. O DeepSeek V4 substitui a atenção padrão por uma combinação híbrida de dois mecanismos complementares:

Atenção Esparsa Comprimida (CSA) opera no nível de granularidade fina. Ela agrupa cerca de 4 tokens em uma única entrada KV aprendida usando ponderação dependente de dados com janelas sobrepostas e, em seguida, aplica seleção esparsa — cada consulta só presta atenção às entradas comprimidas top-k mais relevantes, indexadas por um componente chamado Lightning Indexer . Um ramo de atenção de janela deslizante é executado em paralelo para preservar a precisão local .

Atenção Altamente Comprimida (HCA) faz uma aposta mais grosseira. Ela comprime até 128 tokens em uma única entrada KV e aplica atenção densa sobre o fluxo altamente comprimido . Isso troca precisão de recuperação por cobertura global abrangente a um custo marginal quase zero. A HCA é executada nas camadas iniciais para fornecer um panorama contextual barato; a camada final retém atenção total para máxima precisão .

Os ganhos de eficiência combinados são impressionantes em comparação com o DeepSeek V3.2 em 1M de tokens:

• FLOPs de inferência por token: 27% do V3.2 (redução de 73%)
• Memória do cache KV: ~10% do V3.2 (redução de aproximadamente 90%)
• Em comparação com uma linha de base GQA bfloat16: aproximadamente 2% do footprint do cache

Para o modelo menor V4 Flash, esses números caem ainda mais: 10% dos FLOPs e 7% do cache KV .

Sem a CSA e a HCA, o modelo Pro de 1,6 trilhão de parâmetros com contexto de 1M seria um projeto de pesquisa — interessante, mas comercialmente inviável. Com elas, é um produto.

O Que Isso Significa

Os dados de 43 dias da SemiAnalysis contam três histórias em paralelo. Primeiro, a vantagem do ecossistema Nvidia continua sendo estruturalmente enorme: o CUDA funciona, no Day 0, sempre, e o hardware está genuinamente à frente. Segundo, a Huawei fechou completamente a lacuna de prontidão de software — uma mudança histórica com implicações geopolíticas que se desenrolarão na próxima geração de hardware. Terceiro, o hardware da AMD é capaz, mas o stack de software ROCm ainda é um gargalo que exige um esforço de engenharia heroico para ser superado a cada novo modelo de fronteira — uma melhoria de 110,5x em 26 dias é impressionante, mas não deveria ser necessária.

O quadro geral pertence aos arquitetos. A atenção híbrida CSA + HCA da DeepSeek não apenas melhora a eficiência — ela muda fundamentalmente o que é comercialmente viável de servir. Quando um modelo de 1,6 trilhão de parâmetros com contexto de milhões de tokens custa centavos de dólar por milhão de tokens no hardware certo, a conversa muda de "conseguimos fazer isso?" para "o que vamos construir com isso?"

A Huawei conseguiu algo historicamente significativo. O framework Ascend 950DT + CANN alcançou o mesmo suporte full-stack no Day 0 que a Nvidia — a primeira vez que uma plataforma não-CUDA igualou a Nvidia em prontidão de lançamento para um modelo de fronteira . Benchmarks independentes no Ascend 950PR, já em produção, mostraram computação FP4 a 2,87x a taxa do H20 e inferência MoE até 1,96x mais rápida em rollouts de RL . A ressalva: o teto de desempenho do hardware chinês ainda é limitado pelas restrições de fabricação, então a taxa de transferência absoluta ainda fica atrás do melhor da Nvidia.

A estreia da AMD foi, para ser direto, um desastre. O MI355X só conseguiu rodar FP8 no Day 0 — o checkpoint nativo FP4+FP8 era inutilizável — e entregou apenas 20,4 tok/s/GPU a 2,4 tok/s/usuário na carga de trabalho 8K/1K . O stack ROCm não estava otimizado; era um placeholder.

A Recuperação de 110,5x da AMD: A Corrida do Software

O que se seguiu é a recuperação de desempenho impulsionada por software mais dramática da memória recente em infraestrutura de IA. Ao longo de 26 dias, a equipe de engenharia SGLang da AMD, sob a liderança técnica de HaiShaw, fez o merge de 31 pull requests de otimização de desempenho no branch lateral amd/deepseek_v4 . Cada PR endereçou uma camada do stack ROCm que estava essencialmente não testada com um modelo MoE dessa escala.

No Dia 26 (20 de maio de 2026), o MI355X atingiu 2.256 tok/s/GPU a 9,4 tok/s/usuário na carga de trabalho 8K/1K — uma melhoria de 110,5x na taxa de transferência por GPU, enquanto simultaneamente melhorava a interatividade em 3,85x . Este é um raro resultado de otimização onde ambos os eixos sobem juntos: você normalmente não obtém tempos de resposta por usuário mais rápidos e maior taxa de transferência agregada do mesmo hardware.

Em pontos de interatividade comparáveis no InferenceX, o MI355X do Dia 26 atinge aproximadamente 1.411 tok/s/GPU, colocando-o no mesmo patamar competitivo do Nvidia B200 em configurações de baixa interatividade . Ele ainda fica atrás do Nvidia GB300 NVL72 (que atinge até 11.474 tok/s/GPU em condições ideais), mas a trajetória é o que importa: o MI355X saiu de um lançamento não funcional para se tornar um SKU de inferência viável .

O Ranking Completo aos 43 Dias

O custo por milhão de tokens conta a história econômica. Em baixa interatividade, o GB300 NVL72 entrega tokens a $0,064/M tok — cerca de 4,5x mais barato que o MI355X a $0,291/M tok . Em interatividade mais alta (menor concorrência, maior velocidade por usuário), o MI355X se torna competitivo em custo contra o B200, com ambos pairando em torno de $1,22–$1,45/M tok com 23–24 usuários concorrentes .

O Verdadeiro Viabilizador: A Arquitetura de Atenção Híbrida do DeepSeek V4

Os números dos benchmarks são impressionantes, mas seriam economicamente insignificantes sem o avanço arquitetônico da DeepSeek no lado do modelo. A atenção do Transformer padrão escala quadraticamente com o comprimento do contexto. Em 1 milhão de tokens, os custos de computação e memória tornam o serviço economicamente inviável em qualquer hardware. O DeepSeek V4 substitui a atenção padrão por uma combinação híbrida de dois mecanismos complementares:

Atenção Esparsa Comprimida (CSA) opera no nível de granularidade fina. Ela agrupa cerca de 4 tokens em uma única entrada KV aprendida usando ponderação dependente de dados com janelas sobrepostas e, em seguida, aplica seleção esparsa — cada consulta só presta atenção às entradas comprimidas top-k mais relevantes, indexadas por um componente chamado Lightning Indexer . Um ramo de atenção de janela deslizante é executado em paralelo para preservar a precisão local .

Atenção Altamente Comprimida (HCA) faz uma aposta mais grosseira. Ela comprime até 128 tokens em uma única entrada KV e aplica atenção densa sobre o fluxo altamente comprimido . Isso troca precisão de recuperação por cobertura global abrangente a um custo marginal quase zero. A HCA é executada nas camadas iniciais para fornecer um panorama contextual barato; a camada final retém atenção total para máxima precisão .

Os ganhos de eficiência combinados são impressionantes em comparação com o DeepSeek V3.2 em 1M de tokens:

• FLOPs de inferência por token: 27% do V3.2 (redução de 73%)
• Memória do cache KV: ~10% do V3.2 (redução de aproximadamente 90%)
• Em comparação com uma linha de base GQA bfloat16: aproximadamente 2% do footprint do cache

Para o modelo menor V4 Flash, esses números caem ainda mais: 10% dos FLOPs e 7% do cache KV .

Sem a CSA e a HCA, o modelo Pro de 1,6 trilhão de parâmetros com contexto de 1M seria um projeto de pesquisa — interessante, mas comercialmente inviável. Com elas, é um produto.

O Que Isso Significa

Os dados de 43 dias da SemiAnalysis contam três histórias em paralelo. Primeiro, a vantagem do ecossistema Nvidia continua sendo estruturalmente enorme: o CUDA funciona, no Day 0, sempre, e o hardware está genuinamente à frente. Segundo, a Huawei fechou completamente a lacuna de prontidão de software — uma mudança histórica com implicações geopolíticas que se desenrolarão na próxima geração de hardware. Terceiro, o hardware da AMD é capaz, mas o stack de software ROCm ainda é um gargalo que exige um esforço de engenharia heroico para ser superado a cada novo modelo de fronteira — uma melhoria de 110,5x em 26 dias é impressionante, mas não deveria ser necessária.

O quadro geral pertence aos arquitetos. A atenção híbrida CSA + HCA da DeepSeek não apenas melhora a eficiência — ela muda fundamentalmente o que é comercialmente viável de servir. Quando um modelo de 1,6 trilhão de parâmetros com contexto de milhões de tokens custa centavos de dólar por milhão de tokens no hardware certo, a conversa muda de "conseguimos fazer isso?" para "o que vamos construir com isso?"