Nvidia arrasa no MLPerf Training v6.0 com plataforma Blackwell e novos desafios de IA

O Recorde da CoreWeave com o DeepSeek-V3

• A CoreWeave, provedora de infraestrutura em nuvem, treinou o modelo DeepSeek-V3 671B em impressionantes 2,02 minutos, utilizando 8.192 GPUs Nvidia GB300 NVL72 — o maior cluster com essa GPU nesta rodada — rodando em sua infraestrutura de nuvem comercial .
• Este foi o resultado mais rápido de treinamento para este modelo em todo o benchmark, alcançado por meio de otimizações completas que envolveram desde a rede e orquestração até as camadas de armazenamento .

GB300 NVL72 vs. GB200 NVL72: O Salto de Performance

• O sistema GB300 NVL72 (Blackwell Ultra) entrega ganhos de até 2,77 vezes na velocidade de tokens por segundo em inferência, em comparação com o GB200 NVL72, além de demonstrar uma taxa de treinamento substancialmente maior nesta rodada .
• A arquitetura Blackwell Ultra se beneficia de orçamentos maiores de memória e energia, o que permite maior localidade dos modelos e, consequentemente, maior rendimento .
• A pilha de software da Nvidia também trouxe ganhos significativos: a produtividade no treinamento do DeepSeek-V3 melhorou em 1,3 vezes em apenas três meses no mesmo hardware, graças a inovações como gráficos CUDA de iteração completa e fusões com a DSL CuTe .

Participação Recorde e Diversidade Técnica

• 24 organizações enviaram resultados, utilizando impressionantes 95 sistemas distintos com 13 aceleradores de hardware diferentes .
• Esta edição do benchmark se destacou pela crescente diversidade técnica, incluindo múltiplas receitas de precisão FP4 (como o MXFP4 da AMD) e variados frameworks de software, conforme observou Shriya Rishab, copresidente do MLPerf Training .
• As GPUs AMD Instinct MI355X, utilizando o formato de precisão MXFP4, demonstraram desempenho competitivo contra as plataformas Nvidia B200 no ajuste fino do modelo Llama 2-70B e no pré-treinamento do Llama 3.1-8B .

Rede Escalável e Vitórias em Nível de Sistema

• Os parceiros da Nvidia escalaram seus sistemas para até 8.192 GPUs Blackwell em clusters de hiperescala, utilizando a rede Spectrum-X Ethernet com Roteamento Adaptativo e Controle de Congestionamento. Isso foi fundamental para manter a largura de banda próxima da teórica nos exigentes padrões de comunicação "todos-para-todos", comuns em modelos MoE .
• A combinação de domínios NVLink-switch e uma estrutura de rede escalável entregou tempos recordes em todos os benchmarks, incluindo: pré-treinamento do Llama 3.1 8B (5,2 minutos), ajuste fino do Llama 2 70B (0,40 minutos), geração de imagens com FLUX.1 (12,5 minutos), DLRM-DCNv2 (0,71 minutos) e RetinaNet (1,4 minutos) .