El rack de IA Vera Rubin de Nvidia podría acercarse a los 7,8 millones de dólares

Este cambio refleja una tendencia más amplia: los sistemas modernos de entrenamiento de IA se parecen cada vez más a supercomputadoras completas dentro de un rack, donde el rendimiento depende tanto de la memoria, las interconexiones y el diseño del sistema como del chip acelerador.

Un rack que se acerca a los 8 millones de dólares

Estimaciones de analistas sitúan el precio de un rack Vera Rubin NVL72 en torno a 7,8 millones de dólares, aproximadamente el doble que la generación basada en Blackwell.

El aumento no proviene de un solo componente. Los informes describen una subida generalizada en el contenido del sistema:

• Coste de memoria: +435%
• Coste de PCBs (placas de circuito): +233%
• Coste de MLCC (condensadores cerámicos multicapa): +182%
• Coste de sustratos ABF: +82%

En otras palabras, prácticamente todos los subsistemas dentro del rack se encarecen a medida que la infraestructura de IA se vuelve más compleja.

La memoria: el mayor motor del aumento

El mayor salto proviene de las nuevas tecnologías de memoria que utiliza la plataforma Rubin.

Las GPUs Rubin incorporan HBM4 (High Bandwidth Memory), la evolución de HBM3 y HBM3e, diseñada para proporcionar un ancho de banda masivo necesario para modelos de IA cada vez más grandes.

Al mismo tiempo, el sistema introduce un gran subsistema de memoria LPDDR5X conectado a la nueva CPU Vera, con hasta 1,5 TB de capacidad mediante módulos SOCAMM.

Los fabricantes de memoria ya están produciendo estos componentes para el ecosistema Rubin. Micron, por ejemplo, confirmó producción a gran escala de pilas HBM4 y módulos SOCAMM2 diseñados específicamente para esta plataforma.

Al combinar:

• HBM4 de alto ancho de banda para las GPUs
• grandes pools de LPDDR5X para las CPUs

…el volumen total de memoria por rack crece enormemente. Algunas estimaciones indican que la memoria podría representar cerca del 25–26% del costo total del rack, una proporción muy superior a generaciones anteriores.

La complejidad del sistema también está aumentando

La memoria no es el único factor. Rubin integra múltiples chips especializados y tecnologías de red en un sistema fuertemente acoplado.

La arquitectura reúne varios componentes clave:

• CPUs Vera
• GPUs Rubin
• switches NVLink
• redes ConnectX SuperNIC
• DPUs BlueField
• switches Ethernet Spectrum

Este nivel de integración exige placas más avanzadas, interconexiones más rápidas y sistemas de alimentación más sofisticados que los servidores de IA anteriores.

Por eso también aumentan los costos de otros elementos de hardware:

• PCBs: más capas y materiales de mayor calidad para soportar señales de alta velocidad
• MLCC: mayor cantidad de componentes pasivos para estabilizar la energía
• Sustratos ABF: empaquetado más avanzado para chips de gran tamaño

Cada pieza individual puede parecer pequeña, pero en un rack con decenas de aceleradores y múltiples dispositivos de red, el costo acumulado se vuelve significativo.

Las GPUs siguen siendo caras, pero ya no dominan el costo total

Las GPUs siguen siendo el componente individual más caro, pero su peso relativo en el costo total del rack está disminuyendo.

Algunas estimaciones sitúan el precio de una GPU Rubin en unos 55.000 dólares por chip, alrededor de 57% más que en la generación Blackwell.

Sin embargo, como la memoria y los componentes del sistema crecen aún más rápido, la participación de la GPU dentro del costo total del rack se reduce.

Esto señala un cambio estructural en el diseño del hardware de IA: el rendimiento depende cada vez más de la arquitectura completa del sistema, no solo del acelerador.

Qué significa esto para la cadena de suministro de IA

Este cambio en la estructura de costos tiene implicaciones importantes para toda la industria de semiconductores.

Primero, más empresas participan en el valor económico del boom de la IA. Fabricantes de:

• memoria HBM y DRAM
• sustratos de empaquetado avanzado
• PCBs de alta complejidad
• componentes pasivos

están capturando una mayor parte del valor en la infraestructura de IA.

Segundo, la disponibilidad de memoria avanzada y capacidad de empaquetado se vuelve crítica. Como Rubin depende de HBM4, cualquier limitación en la producción de memoria puede afectar directamente la velocidad con la que se despliega nueva infraestructura de IA.

Finalmente, los ODM y OEM que ensamblan servidores de IA a escala de rack podrían capturar más valor, ya que los sistemas completos son cada vez más complejos de diseñar e integrar.

La tendencia de fondo: supercomputación de IA dentro de un rack

El precio estimado de 7,8 millones de dólares ilustra hasta qué punto está cambiando el hardware de IA.

Las generaciones anteriores de servidores de IA eran básicamente GPUs conectadas a servidores tradicionales. Plataformas como Rubin, en cambio, están diseñadas como supercomputadoras integradas dentro de un solo rack, combinando computación, memoria y redes en una arquitectura optimizada.

Eso explica por qué el precio de un solo rack puede acercarse al costo de una pequeña instalación de centro de datos.

Un matiz importante: la cifra de 7,8 millones de dólares es una estimación de analistas basada en análisis de la cadena de suministro, y Nvidia no ha confirmado públicamente el precio oficial de los sistemas Rubin.

Aun así, la dirección es clara: la próxima generación de infraestructura de IA estará definida menos por un único chip y más por todo el sistema que lo rodea.