RespuestasPublicado16 fuentes
MLPerf v6.1 eleva la importancia del software, la escala y la IA agéntica
El sistema de Crusoe con 512 GPU AMD Instinct MI355X registró las mayores cifras agregadas de rendimiento por tokens de la ronda, una demostración de capacidad a gran escala. Vera Rubin NVL72 de NVIDIA debutó como plataforma en vista previa, con hasta 3,7 veces más rendimiento que GB300 NVL72 en Qwen3 VL; no es aún...
Publicado porEditado con GPT-5.6 TerraImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- El sistema de Crusoe con 512 GPU AMD Instinct MI355X registró las mayores cifras agregadas de rendimiento por tokens de la ronda, una demostración de capacidad a gran escala.
- Vera Rubin NVL72 de NVIDIA debutó como plataforma en vista previa, con hasta 3,7 veces más rendimiento que GB300 NVL72 en Qwen3 VL; no es aún una comparación directa con sistemas disponibles comercialmente.
- La edición reunió a 30 organizaciones y 486 resultados de centros de datos y edge, e incorporó pruebas de RAG de extremo a extremo e inferencia agéntica en el borde.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What were the key results and broader implications of MLCommons’ MLPerf Inference v6.1 benchmarks, including AMD’s record-setting MI355X per. Article summary: MLPerf Inference v6.1 showed a more competitive and more deployment-oriented inference market: AMD set aggregate-scale records, NVIDIA demonstrated its next platform while retaining strong Blackwell results, Intel broade. Topic tags: general, documentation, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
MLPerf Inference v6.1 no deja un único ganador ni responde simplemente qué GPU es más rápida. La nueva ronda del benchmark de MLCommons retrata un mercado en el que el rendimiento de inferencia depende cada vez más del sistema completo: aceleradores, software, red, tamaño del despliegue y cumplimiento de los objetivos de latencia.
Los resultados más llamativos fueron el envío de AMD a escala extrema con MI355X, los primeros datos públicos de Vera Rubin de NVIDIA —aún en categoría de vista previa—, una participación más amplia de Intel y nuevas pruebas para aplicaciones basadas en recuperación de información y agentes de IA.
AMD pone el foco en la capacidad agregada
La cifra más destacada de AMD llegó de la mano de Crusoe: una configuración con 512 GPU Instinct MI355X registró el mayor rendimiento agregado de tokens comunicado en la ronda v6.1. 5 Es una demostración relevante porque no evalúa únicamente el acelerador: también pone a prueba la inferencia distribuida, la interconexión y la integración del sistema en un despliegue muy grande.
Pero ese resultado no equivale, por sí solo, a una victoria universal. Comparar un clúster de 512 GPU con un solo rack o con una instalación menor exige ajustar por número de GPU, modelo evaluado, escenario del benchmark y requisitos de nivel de servicio. Para una gran flota de inferencia, el rendimiento agregado puede ser decisivo; para otro comprador pueden pesar más el rendimiento por acelerador, la densidad por rack, el consumo eléctrico, la disponibilidad o la complejidad operativa.
El software ROCm también cambia la ecuación
El caso de AMD no es solo de hardware. La compañía destacó mejoras de rendimiento en las mismas MI355X respecto a la ronda anterior gracias a optimizaciones de ROCm. La conclusión práctica es que los compiladores, kernels, entornos de ejecución de modelos y software de servicio distribuido pueden elevar la capacidad útil de una infraestructura ya instalada sin sustituir las GPU.
AMD se ha comprometido además con un ciclo de lanzamientos de ROCm de seis semanas. Si esa cadencia se traduce en mejoras sostenidas y aplicables en producción, la velocidad de evolución del software puede influir de forma tangible en el coste por token. Aun así, las ganancias de MLPerf deben validarse con la combinación real de modelos, cuantización, framework, patrón de tráfico y objetivos de latencia de cada organización: un avance en un benchmark no se traslada automáticamente, ni en la misma proporción, a un servicio en producción.
NVIDIA adelanta el potencial de Vera Rubin, mientras Blackwell sigue siendo clave
Vera Rubin NVL72 de NVIDIA apareció por primera vez en MLPerf Inference como envío de vista previa. NVIDIA comunicó hasta 3,7 veces más rendimiento que GB300 NVL72 en Qwen3-VL y señaló que un envío de 288 GPU GB300 NVL72, repartidas en cuatro racks, alcanzó un 99 % de eficiencia de escalado. 2
La condición de vista previa es esencial. Estos resultados sirven como señal de dirección arquitectónica y madurez de software, pero no constituyen automáticamente una comparación de compra equivalente con sistemas de disponibilidad general. Además, los envíos de Vera Rubin usaron clústeres de diferentes tamaños, por lo que las comparaciones por GPU —u otras métricas normalizadas— son más informativas que el rendimiento total del sistema. 8
Para los despliegues inmediatos, Blackwell y Blackwell Ultra siguen ocupando un lugar central. CoreWeave, por ejemplo, comunicó resultados destacados entre proveedores cloud en varias configuraciones Blackwell y Blackwell Ultra para cargas como Qwen3-VL, DeepSeek-R1 y GPT-OSS-120B. 4 La lectura útil no es que exista una única plataforma superior en todos los casos, sino que las necesidades varían: la capacidad agregada de clústeres enormes, el servicio a escala de rack, la inferencia multimodal y la latencia interactiva pueden favorecer configuraciones distintas.
Intel amplía el abanico de sistemas representados
Las aportaciones de Intel hicieron más visible la inferencia sobre CPU y GPU de estación de trabajo. Su nodo con cuatro Arc Pro B70 suma 128 GB de VRAM y presentó resultados para Llama, GPT-OSS-120B, Whisper y la nueva carga de trabajo RAG de extremo a extremo. Intel también informó de mejoras impulsadas por software sobre la misma configuración Arc Pro B70 frente a la ronda anterior. 3
Eso no convierte a Arc Pro en un reemplazo directo de los clústeres de aceleradores para hiperescala. Sí amplía la representatividad del benchmark para organizaciones que estudian despliegues más pequeños, de menor coste o más flexibles, especialmente cuando la capacidad de memoria, la inferencia local o la infraestructura de servidores existente condicionan la decisión.
RAG y agentes acercan el benchmark a las aplicaciones reales
MLCommons informó de un récord de 30 organizaciones participantes y 486 resultados de centros de datos y edge en v6.1. La suite añadió un benchmark de RAG de extremo a extremo para centros de datos y otro de inferencia agéntica en el borde. 9
RAG —retrieval-augmented generation, o generación aumentada por recuperación— combina la búsqueda de información relevante con la generación de una respuesta. Por su parte, los agentes de IA suelen resolver tareas en varios pasos, interactuar con herramientas y mantener un intercambio continuo. Estas cargas introducen cuellos de botella que una prueba convencional de rendimiento de tokens en modo offline puede no revelar: interacciones multivuelta, sobrecarga de orquestación, llamadas a herramientas y capacidad de respuesta entre pasos. MLCommons describe la prueba de edge como un reflejo de tareas complejas y multivuelta, como la programación agéntica. 9
Siguen siendo pruebas controladas, no una representación exhaustiva de un servicio en vivo. Sin embargo, acercan la medición a los tipos de aplicaciones que muchas empresas intentan desplegar ahora.
El posible giro hacia MLPerf Endpoints
MLCommons también adelantó MLPerf Endpoints como una posible evolución. La diferencia relevante estaría entre enviar resultados en rondas periódicas y observar el rendimiento de endpoints de inferencia en funcionamiento. Un programa maduro orientado a endpoints podría poner más énfasis en el comportamiento bajo carga, la consistencia de la latencia, la disponibilidad y la repetibilidad operativa, no solo en un pico alcanzado durante una ejecución fija del benchmark.
Por ahora, los compradores deberían interpretarlo como una dirección emergente de medición, no como un reemplazo finalizado del proceso actual. Los resultados de v6.1 explican bien por qué podría ser útil: la calidad de un despliegue depende de mucho más que del máximo de tokens por segundo.
La conclusión para quien compra infraestructura
MLPerf Inference v6.1 muestra que la competencia en inferencia se define por tres factores conectados: capacidad del acelerador, mejora continua del software e integración del sistema. El clúster MI355X de AMD evidencia la relevancia de la escala; Vera Rubin anticipa el siguiente salto de NVIDIA, mientras Blackwell cubre las necesidades actuales; Intel ensancha la variedad de equipos evaluados; y las nuevas pruebas reconocen que RAG y los agentes tienen exigencias propias.
Antes de comparar titulares, conviene definir la carga y el objetivo operativo: modelo, longitud de contexto, concurrencia, acuerdo de nivel de servicio de latencia, límite energético, tamaño del despliegue y coste por resultado útil. Después, hay que contrastar sistemas de escala y disponibilidad equivalentes. Es una forma mucho más útil de evaluar una plataforma que tomar cualquier cifra aislada de MLPerf como una respuesta definitiva.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "MLPerf v6.1 eleva la importancia del software, la escala y la IA agéntica"?
El sistema de Crusoe con 512 GPU AMD Instinct MI355X registró las mayores cifras agregadas de rendimiento por tokens de la ronda, una demostración de capacidad a gran escala.
¿Cuáles son los puntos clave a validar primero?
El sistema de Crusoe con 512 GPU AMD Instinct MI355X registró las mayores cifras agregadas de rendimiento por tokens de la ronda, una demostración de capacidad a gran escala. Vera Rubin NVL72 de NVIDIA debutó como plataforma en vista previa, con hasta 3,7 veces más rendimiento que GB300 NVL72 en Qwen3 VL; no es aún una comparación directa con sistemas disponibles comercialmente.
¿Qué debo hacer a continuación en la práctica?
La edición reunió a 30 organizaciones y 486 resultados de centros de datos y edge, e incorporó pruebas de RAG de extremo a extremo e inferencia agéntica en el borde.