Nvidia apuesta por medir las fábricas de IA en tokens por megavatio

La limitación para ampliar infraestructura de IA ya no es solo cuántos aceleradores caben en un rack. Cada vez pesa más la electricidad disponible. En la jornada inaugural de su AI Infra Summit 2026, Nvidia defendió que una fábrica de IA debe medirse por los tokens agénticos por megavatio que produce: es decir, por la cantidad de inferencia útil que logra entregar sin rebasar su límite de potencia. 23

Ian Buck, vicepresidente de computación de alto rendimiento e hiperescalable de Nvidia, presentó esta estrategia en Santa Clara. El planteamiento va bastante más allá del rendimiento de una GPU: para que una fábrica de IA siga siendo productiva cuando la energía es el cuello de botella, deben coordinarse cómputo, red, software de inferencia, refrigeración, controles de potencia y operación de la red eléctrica. 123

Lambda: 19 nodos con la energía que antes se destinaba a 16

El dato más concreto llegó de Lambda, proveedor de nube para IA, con su primera validación en entorno de despliegue de Nvidia DSX MaxLPS en servidores GPU HGX B200. Según Nvidia, DSX MaxLPS supervisa el consumo de las GPU y de los racks, y redistribuye el margen de potencia disponible entre los nodos. 23

En el clúster analizado —cinco racks y 19 nodos— Lambda operó 19 nodos dentro de un presupuesto eléctrico que normalmente admitiría 16 nodos a plena potencia. El resultado reportado fue un aumento del 24% en el rendimiento de tokens del clúster, de aproximadamente 4 a 5 millones de tokens por segundo, junto con una mejora del 23% en rendimiento por vatio. 23

La relevancia es operativa, no meramente teórica. La capacidad de un centro de datos suele estar condicionada por la potencia que realmente llega a la instalación. Cuando las cargas tienen perfiles de consumo variables, aprovechar el margen eléctrico que queda libre puede elevar la producción sin tener que ampliar la acometida eléctrica ni aumentar el presupuesto de potencia del recinto.

Vera Rubin: promesas a futuro, no resultados de producción

Nvidia también expuso posibles mejoras para futuros despliegues de Vera Rubin NVL72. La empresa calcula que DSX MaxLPS podría permitir hasta un 40% más de capacidad de GPU dentro de un mismo límite de potencia del centro y hasta un 35% más de rendimiento de tokens, según las condiciones de cada instalación. 23

Conviene distinguir estas cifras de las comunicadas por Lambda. Las mediciones de Lambda son resultados reportados de una validación en despliegue basada en Blackwell; las cifras de Vera Rubin son proyecciones de Nvidia para una plataforma futura. 23

Una fábrica de IA que responde a la red eléctrica

El segundo gran eje de Nvidia fue la flexibilidad: una fábrica de IA debería poder responder a las condiciones de la red sin tratar todas las cargas como si tuvieran la misma urgencia.

En la fábrica de IA Eos de Nvidia, la plataforma Conductor de Emerald AI trabajó con Silicon Valley Power en un programa comercial de carga flexible. Nvidia informó de que el sistema respondió a más de 200 señales de demanda de la empresa eléctrica y, en una demostración, redujo el consumo de la instalación de 4 MW a 3 MW en menos de un minuto. Lo hizo relegando tareas de cómputo flexibles, mientras mantenía activa la inferencia de mayor prioridad. 23

Nvidia presentó ese programa como un ejemplo temprano de la capacidad prevista para DSX Flex. La compañía describe DSX Flex como un sistema que recibe señales de reducción de carga, respuesta a la demanda y precios de electricidad, y aplica prioridades a las cargas de trabajo: las tareas aplazables pueden pausarse y reanudarse, mientras los servicios críticos continúan funcionando. La demostración de Eos fue una prueba comercial a escala anterior, no una instalación de DSX Flex. 23

La idea puede ser relevante para operadores sometidos a restricciones de las eléctricas. No todo el entrenamiento, procesamiento por lotes o trabajo fuera de línea exige la misma respuesta que la inferencia en producción. Tratar parte del cómputo como una carga flexible podría permitir participar en programas de la red sin comprometer las tareas de mayor valor.

Del silicio a la operación de la instalación

Los anuncios del encuentro sitúan a Nvidia menos como proveedor de componentes y más como proveedor de una plataforma integral para fábricas de IA. La pila propuesta abarca cómputo Vera Rubin, interconexión de escalado NVLink, software de inferencia Dynamo, redes Ethernet y SuperNIC, componentes de infraestructura BlueField, optimización eléctrica a nivel de rack y operación de cargas sensible a la red. 2

En esa estrategia también encaja Groq 3 LPX. Nvidia lo describe como un acelerador de inferencia interactiva para Vera Rubin, pensado para los requisitos de baja latencia y contexto amplio de los sistemas agénticos. 112 La evidencia disponible respalda esa función, pero no confirma de forma independiente afirmaciones más específicas sobre su fecha de lanzamiento, una comparación de 35 veces más rendimiento por megavatio o su desempeño con modelos de más de dos billones de parámetros.

El trasfondo de negocio

El mensaje de infraestructura llega en un momento de fuerte expansión del negocio de centros de datos de Nvidia. En el segundo trimestre del ejercicio fiscal 2027, finalizado el 26 de julio de 2026, la compañía reportó ingresos de 96.200 millones de dólares, un 106% más interanual. De esa cifra, 89.000 millones de dólares correspondieron al negocio de Data Center. 17

Para el tercer trimestre, Nvidia previó ingresos de 108.000 millones de dólares, con un margen de variación de más o menos el 2%. 2830

Ese contexto ayuda a entender el énfasis en la operación a escala de fábrica. A medida que los clientes instalan más capacidad de IA, las preguntas prácticas pasan por asegurar el suministro eléctrico, extraer más producción de un límite energético fijo y mantener los servicios de inferencia en marcha ante eventos de la red y otras incidencias operativas.

La conclusión

Nvidia no sostiene que el rendimiento bruto de los aceleradores haya dejado de importar. Su tesis es que, para la economía de una fábrica de IA, el rendimiento máximo ya no basta.

La métrica que propone —tokens validados por megavatio— conecta el hardware con las restricciones que afrontan los operadores en producción: potencia disponible en el emplazamiento, eventos de la red, prioridad de las cargas y disponibilidad del sistema. El aumento de rendimiento del 24% reportado por Lambda ofrece un primer dato de despliegue para esa tesis; las promesas más amplias de Nvidia sobre Vera Rubin y DSX siguen siendo una hoja de ruta que deberá validarse en operaciones de clientes. 23