RespuestasPublicado22 fuentes
Nvidia lleva Groq 3 LPX a producción completa para responder más rápido en IA
Nvidia anunció el 24 de agosto que Groq 3 LPX había entrado en producción completa. LPX no sustituye a las GPU de Nvidia: es un acelerador específico para la fase de decodificación de la inferencia, en la que el modelo genera la respuesta token a token.
Publicado porEditado con GPT-5.6 LunaImágenes generadas con GPT Image 1.5
Respuesta de investigación
Conclusiones clave
- Nvidia anunció el 24 de agosto que Groq 3 LPX había entrado en producción completa.
- LPX no sustituye a las GPU de Nvidia: es un acelerador específico para la fase de decodificación de la inferencia, en la que el modelo genera la respuesta token a token.
- Nebius será el primer proveedor de nube de IA anunciado que lo adopte, con planes para integrarlo en su plataforma Token Factory antes de que termine 2026.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia announce at Hot Chips 2026 about the full-production launch of its Groq 3 LPX dedicated AI-inference accelerator—acquired th. Article summary: At Hot Chips on August 24, Nvidia said its Groq 3 LPX rack-scale accelerator had entered full production as the low-latency, long-context inference component of the Vera Rubin platform. It is intended for rapid token gen. Topic tags: general, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks,
Nvidia ha puesto en producción completa Groq 3 LPX, un acelerador de inferencia diseñado para reducir la latencia de los sistemas de IA interactivos. La compañía presentó el anuncio el 24 de agosto en Hot Chips y plantea LPX como un complemento de su plataforma Vera Rubin NVL72, no como un sustituto general de sus GPU. 26
El objetivo es acelerar el momento en que un modelo empieza a responder y continúa generando texto: una diferencia especialmente importante para agentes de IA, asistentes de programación y aplicaciones que trabajan con contextos muy extensos.
3.400 tokens por segundo en una prueba de contexto largo
En una evaluación de Artificial Analysis, Groq 3 LPX alcanzó una mediana de 3.431 tokens de salida por segundo al ejecutar Gemma 4 31B, el modelo de código abierto de Google, con un contexto de 100.000 tokens. Nvidia redondeó el resultado a 3.400 tokens por segundo en su anuncio. 17
La empresa aseguró que, en esa configuración concreta, LPX fue cuatro veces más rápido que la plataforma alternativa más cercana. 35
La cifra es llamativa, pero no debe interpretarse como una medida universal de rendimiento. El resultado depende del modelo empleado, la longitud del contexto, el nivel de concurrencia y la configuración del sistema. En una aplicación real también influyen la memoria, la red, el tiempo necesario para procesar la petición inicial y la forma en que se distribuyen las cargas de trabajo.
El cuello de botella que Nvidia quiere atacar
Para entender el papel de LPX conviene separar dos etapas de la inferencia:
- Prefill: procesa la pregunta del usuario y el contexto que la acompaña.
- Decode o decodificación: genera la respuesta, normalmente un token cada vez.
Groq 3 LPX está orientado sobre todo a la segunda fase. Nvidia lo describe como un acelerador de inferencia interactiva capaz de generar tokens de forma rápida y predecible para cargas de trabajo sensibles a la latencia. 19
26
Vera Rubin NVL72 conserva un papel más amplio: puede utilizarse en entrenamiento, inferencia general, procesamiento de contextos largos y servicios con alta concurrencia. 34 La división permite que las GPU se encarguen del cómputo flexible y que la arquitectura derivada de Groq se concentre en la parte de la respuesta en la que cada milisegundo afecta directamente a la experiencia del usuario.
En el caso de los agentes de IA, esta diferencia puede acumularse. Un agente que consulta herramientas, analiza información y ejecuta varios pasos necesita producir muchas respuestas parciales; una generación más rápida puede hacer que todo el proceso se perciba como más fluido.
Nebius y Groq serán los primeros despliegues anunciados
Nebius es el primer proveedor de nube de IA que Nvidia ha identificado como cliente de Groq 3 LPX. La compañía prevé integrar el acelerador en Nebius Token Factory, su plataforma de inferencia para entornos de producción, antes de que termine 2026. 2
Groq también ha anunciado que estará entre los primeros usuarios. Su plan es desplegar LPX junto a sistemas Vera Rubin NVL72 en su nube de inferencia de IA, diseñada específicamente para este tipo de servicios. 18
La combinación responde a una lógica sencilla: Rubin aporta una plataforma flexible para procesar el modelo y el contexto, mientras LPX aumenta la velocidad de generación de tokens en cargas de trabajo con mucho contexto.
Una nueva pieza de la plataforma Vera Rubin
Nvidia presenta Groq 3 LPX como el séptimo componente principal de Vera Rubin. Entre los demás elementos se encuentra Vera, una CPU que, según la compañía, incorpora 88 núcleos Olympus diseñados a medida. 33
El papel de Vera es ocuparse del trabajo que rodea a la inferencia: orquestación, procesamiento de datos, uso de herramientas, ejecución de código y simulación. Nvidia también anunció que SpaceXAI planea utilizar CPU Vera para sus próximas aplicaciones de IA agéntica y un sistema Vera Rubin NVL72 optimizado para un satélite Starmind de primera generación. 40
El mensaje estratégico es claro: Nvidia quiere construir «fábricas de IA» con componentes especializados, en lugar de tratar todas las cargas como si fueran un problema exclusivo de GPU. En ese diseño, las CPU coordinan las tareas de los agentes, las GPU ejecutan el cómputo general de gran escala y LPX se ocupa de generar respuestas con baja latencia.
Qué compró realmente Nvidia por 20.000 millones de dólares
El lanzamiento es hasta ahora el resultado de producto más visible del acuerdo anunciado por Nvidia con Groq en diciembre de 2025. Sin embargo, describirlo como una adquisición directa de Groq puede inducir a error.
La información disponible apunta a un acuerdo de licencia no exclusiva de la tecnología de inferencia de Groq, acompañado de la incorporación a Nvidia de su fundador y consejero delegado, Jonathan Ross, de su presidente, Sunny Madra, y de otros empleados clave. 4
8
Groq continuó operando después del acuerdo y posteriormente captó nueva financiación, un hecho compatible con una operación centrada en tecnología y talento, no con la compra de toda la empresa operativa. 3
La estructura también explica la relación entre ambas compañías: Nvidia ha integrado la tecnología de procesamiento de lenguaje de Groq en su propia plataforma de servidores, mientras Groq mantiene su actividad independiente y planea utilizar el hardware resultante en su nube.
La prueba decisiva llegará con el uso en la nube
La importancia de Groq 3 LPX no está únicamente en que Nvidia haya añadido otro acelerador a su catálogo. La apuesta consiste en separar las distintas etapas de un servicio de IA y asignar la generación de texto —la parte más sensible a la latencia— a un componente dedicado.
El resultado de 3.400 tokens por segundo muestra el potencial de esa estrategia en una configuración de contexto largo. Aun así, será el despliegue en plataformas como Nebius Token Factory y la nube de Groq el que permita comprobar si la ventaja del laboratorio se traduce en un rendimiento ampliamente disponible para aplicaciones reales.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Nvidia lleva Groq 3 LPX a producción completa para responder más rápido en IA"?
Nvidia anunció el 24 de agosto que Groq 3 LPX había entrado en producción completa.
¿Cuáles son los puntos clave a validar primero?
Nvidia anunció el 24 de agosto que Groq 3 LPX había entrado en producción completa. LPX no sustituye a las GPU de Nvidia: es un acelerador específico para la fase de decodificación de la inferencia, en la que el modelo genera la respuesta token a token.
¿Qué debo hacer a continuación en la práctica?
Nebius será el primer proveedor de nube de IA anunciado que lo adopte, con planes para integrarlo en su plataforma Token Factory antes de que termine 2026.