RespostasPublicado16 fontes
MLPerf Inference v6.1 eleva a disputa do hardware de IA — e do software de inferência
O MLPerf Inference v6.1 reforça que a liderança em inferência de IA é uma questão de sistema completo: a AMD teve o maior resultado agregado com 512 GPUs MI355X, enquanto a NVIDIA apresentou uma prévia da Vera Rubin. A rodada reuniu um recorde de 30 organizações participantes e 486 resultados de data center e edge,...
Publicado porEditado com GPT-5.6 TerraImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- O MLPerf Inference v6.1 reforça que a liderança em inferência de IA é uma questão de sistema completo: a AMD teve o maior resultado agregado com 512 GPUs MI355X, enquanto a NVIDIA apresentou uma prévia da Vera Rubin.
- A rodada reuniu um recorde de 30 organizações participantes e 486 resultados de data center e edge, além de incluir testes de RAG de ponta a ponta e inferência agêntica no edge.
- Para quem compra infraestrutura, ganhos de software no hardware já instalado e a capacidade de reproduzir o desempenho em produção pesam tanto quanto as especificações do acelerador.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What were the key results and broader implications of MLCommons’ MLPerf Inference v6.1 benchmarks, including AMD’s record-setting MI355X per. Article summary: MLPerf Inference v6.1 showed a more competitive and more deployment-oriented inference market: AMD set aggregate-scale records, NVIDIA demonstrated its next platform while retaining strong Blackwell results, Intel broade. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
O MLPerf Inference v6.1 não é apenas um ranking de chips. A rodada oferece um retrato de como o serviço de modelos de IA está mudando: mais dependente de software, rede, integração de sistemas e requisitos reais de latência. Os principais sinais vieram da submissão em escala extrema da AMD com MI355X, dos primeiros dados de prévia da NVIDIA Vera Rubin, da maior presença de sistemas de inferência mais acessíveis da Intel e de novos testes para geração aumentada por recuperação (RAG) e agentes de IA.
A conclusão é simples: a unidade útil de comparação deixou de ser somente a GPU. Agora, é o sistema de serving completo, disponível para uso e executando uma carga relevante dentro das metas de latência exigidas.
AMD coloca a escala agregada em evidência com MI355X
O principal resultado da AMD veio de uma configuração da Crusoe com 512 GPUs Instinct MI355X, que registrou os maiores números agregados de throughput de tokens reportados na rodada v6.1. 5 É uma demonstração importante de escala, pois avalia mais do que o desempenho do acelerador: envolve inferência distribuída, rede e integração do sistema em uma implantação muito grande.
Isso, porém, não equivale a uma declaração universal de liderança da plataforma. Um resultado agregado com 512 GPUs não deve ser comparado diretamente a um rack único ou a um cluster menor sem normalizar quantidade de GPUs, modelo, cenário do benchmark e requisitos de nível de serviço. Para uma grande frota de inferência, throughput agregado pode ser a medida mais relevante; em uma implantação específica, desempenho por acelerador, densidade por rack, consumo de energia, disponibilidade e complexidade operacional podem ser mais decisivos.
Por que a evolução do ROCm é estratégica
O argumento da AMD também é uma história de software. A empresa destacou ganhos no mesmo hardware MI355X em relação ao ciclo anterior do MLPerf, atribuindo a evolução às otimizações do ROCm. A implicação é direta: compiladores, kernels, runtimes de modelos e software de serving distribuído podem aumentar a capacidade útil de uma frota já instalada sem troca de hardware.
A AMD também se comprometeu com uma cadência de lançamentos do ROCm a cada seis semanas. Se esse ritmo resultar em melhorias sustentadas e utilizáveis em produção, a velocidade do software pode se tornar uma parcela relevante do cálculo de custo por token. Ainda assim, os ganhos do MLPerf precisam ser validados na combinação de modelos, quantização, framework, padrão de tráfego e metas de latência de cada comprador. Uma melhoria em benchmark não é automaticamente reproduzida, na mesma proporção, em produção.
NVIDIA usa a Vera Rubin para indicar o potencial da próxima plataforma
A NVIDIA Vera Rubin NVL72 apareceu no MLPerf Inference pela primeira vez como uma submissão de prévia. A NVIDIA informou throughput até 3,7 vezes maior que o da GB300 NVL72 no Qwen3-VL e descreveu uma submissão com 288 GPUs GB300 NVL72 que alcançou 99% de eficiência de escalabilidade em quatro racks. 2
A ressalva central é a disponibilidade. Resultados de prévia são evidência útil sobre direção arquitetural e maturidade de software, mas não representam automaticamente uma comparação de compra equivalente com sistemas amplamente disponíveis. Os tamanhos dos clusters nas submissões de prévia também variaram, o que torna comparações por GPU — ou outras métricas normalizadas — mais informativas do que o throughput total do sistema isoladamente. 8
Blackwell e Blackwell Ultra continuam no centro das implantações de curto prazo. A CoreWeave, por exemplo, relatou resultados líderes entre provedores de nuvem em diversas configurações Blackwell e Blackwell Ultra nos workloads Qwen3-VL, DeepSeek-R1 e GPT-OSS-120B. 4 Na prática, a leitura é de segmentação, não de um vencedor único: capacidade agregada em grandes clusters, serving em escala de rack, inferência multimodal e latência interativa podem favorecer configurações diferentes.
Intel amplia os sistemas de inferência representados no benchmark
As submissões da Intel ampliaram a visibilidade de inferência com CPUs e GPUs de estação de trabalho. Seu nó com quatro Arc Pro B70 reuniu 128 GB de VRAM e apresentou resultados para Llama, GPT-OSS-120B, Whisper e o novo workload de RAG de ponta a ponta. A Intel também relatou ganhos impulsionados por software na mesma configuração Arc Pro B70 em relação à rodada anterior. 3
Isso não coloca a Arc Pro como substituta direta de clusters de aceleradores para hyperscalers. Mas torna o benchmark mais representativo de organizações que avaliam implantações menores, de menor custo ou mais flexíveis — especialmente quando capacidade de memória, inferência local ou a infraestrutura de servidores já existente orientam a decisão.
Novos testes de RAG e agentes aproximam o MLPerf da implantação real
A MLCommons informou um recorde de 30 organizações participantes e 486 resultados de data center e edge na v6.1. A suíte acrescentou um benchmark de RAG de ponta a ponta para data centers e um benchmark de inferência agêntica no edge, refletindo a transição de prompts isolados para aplicações de IA em múltiplas etapas. 9
A mudança importa porque cargas agênticas introduzem gargalos que um teste convencional de throughput de tokens offline pode não revelar: interações em múltiplos turnos, uso de ferramentas, sobrecarga de orquestração e responsividade entre etapas. A MLCommons descreve o benchmark de edge como representativo de tarefas complexas e multi-turno, como programação agêntica. 9
Ainda são benchmarks controlados, não uma representação completa de serviços em produção. Mesmo assim, levam a avaliação para mais perto dos workloads que muitas equipes tentam colocar em operação.
O que uma possível migração para MLPerf Endpoints pode significar
A MLCommons também antecipou o MLPerf Endpoints como uma possível direção futura. A diferença importante está entre submissões periódicas de benchmark e desempenho observável em endpoints de serving em funcionamento. Um programa maduro, orientado a endpoints, poderia dar mais peso ao comportamento sob carga, à consistência da latência, à disponibilidade e à repetibilidade operacional — e não apenas ao pico obtido em uma execução fixa de benchmark.
Por enquanto, compradores devem encarar isso como uma direção emergente de medição, e não como substituição finalizada do processo atual de submissões. Os resultados da v6.1 mostram por que essa evolução pode ser valiosa: qualidade de implantação depende de muito mais do que o maior número possível de tokens por segundo.
A lição para quem compra: compare a pilha inteira, não a manchete
O MLPerf v6.1 traz evidências fortes de que a competição em inferência é moldada por três fatores conectados: capacidade do acelerador, evolução de software e integração de sistemas. A grande submissão MI355X da AMD mostra a importância da escala; a prévia Vera Rubin da NVIDIA sinaliza o próximo salto de desempenho, enquanto Blackwell atende às implantações atuais; os resultados da Arc Pro B70 da Intel ampliam a variedade de hardware representado; e os novos testes da MLCommons reconhecem que RAG e agentes impõem demandas de desempenho diferentes.
Ao avaliar uma plataforma, o ponto de partida deve ser a carga e a meta operacional: modelo, tamanho do contexto, concorrência, SLO de latência, limite de energia, tamanho da implantação e custo por saída útil. Depois, compare sistemas em escala e condição de disponibilidade equivalentes. Essa abordagem é mais útil do que tratar qualquer manchete do MLPerf como uma resposta universal.
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "MLPerf Inference v6.1 eleva a disputa do hardware de IA — e do software de inferência"?
O MLPerf Inference v6.1 reforça que a liderança em inferência de IA é uma questão de sistema completo: a AMD teve o maior resultado agregado com 512 GPUs MI355X, enquanto a NVIDIA apresentou uma prévia da Vera Rubin.
Quais são os pontos-chave para validar primeiro?
O MLPerf Inference v6.1 reforça que a liderança em inferência de IA é uma questão de sistema completo: a AMD teve o maior resultado agregado com 512 GPUs MI355X, enquanto a NVIDIA apresentou uma prévia da Vera Rubin. A rodada reuniu um recorde de 30 organizações participantes e 486 resultados de data center e edge, além de incluir testes de RAG de ponta a ponta e inferência agêntica no edge.
O que devo fazer a seguir na prática?
Para quem compra infraestrutura, ganhos de software no hardware já instalado e a capacidade de reproduzir o desempenho em produção pesam tanto quanto as especificações do acelerador.