Cerebras CS-4 frente a Nvidia: qué significa realmente su promesa de inferencia 30 veces más rápida

Cerebras quiere competir con Nvidia en una de las áreas más importantes de la infraestructura de inteligencia artificial: la inferencia, es decir, el proceso mediante el cual un modelo ya entrenado genera una respuesta. Su nuevo CS-4 es un sistema del tamaño de un rack que integra tres procesadores WSE-3 Turbo, y la empresa asegura que puede producir tokens para usuarios individuales hasta 30 veces más rápido que los sistemas basados en GPU.

La cifra convierte al CS-4 en una alternativa llamativa para chatbots y otros modelos de lenguaje donde la latencia —el tiempo que tarda en aparecer la respuesta— es decisiva. Pero no demuestra que Cerebras pueda sustituir a Nvidia en términos generales. Las fuentes disponibles respaldan las especificaciones básicas y el posicionamiento del producto; varias afirmaciones arquitectónicas, comerciales y de hoja de ruta todavía no están verificadas.

Qué es el Cerebras CS-4

El CS-4 no es un servidor convencional lleno de tarjetas aceleradoras independientes. Es una plataforma de inferencia a escala de rack que utiliza tres chips WSE-3 Turbo, diseñados para aplicaciones de IA que se benefician de una generación de tokens rápida y predecible.

El sistema parte del WSE-3, un procesador a escala de oblea que, según la información disponible, contiene 4 billones de transistores, 900.000 núcleos optimizados para IA y 44 GB de SRAM integrada en la propia oblea. Una comparación técnica sitúa el rendimiento máximo del WSE-3 en 125 petaflops y su ancho de banda de memoria en 21 petabytes por segundo.

El WSE-3 Turbo se describe como una versión con mayor frecuencia de funcionamiento del mismo diseño básico. Los informes disponibles indican que mantiene los 900.000 núcleos, los 44 GB de SRAM y el proceso de fabricación de 5 nanómetros, mientras aumenta el rendimiento operativo.

Especificaciones principales

Las cifras comunicadas por Cerebras y por los informes sobre el lanzamiento incluyen:

• Tres procesadores WSE-3 Turbo por rack.
• 750 petaflops de cómputo de IA anunciados por rack.
• 129,6 PB/s de ancho de banda de memoria por rack.
• 7,2 Tb/s de ancho de banda de E/S por rack.
• 900.000 núcleos y 44 GB de SRAM por procesador.
• Hasta el doble de velocidad por oblea frente a la generación anterior, según Cerebras.

The Register calcula que el WSE-3 Turbo eleva el cómputo FP16 disperso por oblea de 125 a 250 petaflops, el ancho de banda de memoria de 21,6 a 43,2 PB/s y el de E/S de 1,2 a 2,4 Tb/s. También atribuye al procesador Turbo 25 petaflops de cómputo FP16 denso.

Estas cifras representan capacidades teóricas o comunicadas por el fabricante, no una medida universal del rendimiento de las aplicaciones. Los FLOPS máximos de un rack no se convierten automáticamente en una cantidad determinada de tokens por segundo para cualquier modelo o configuración de servicio.

Por qué Cerebras cree que puede reducir la latencia

Los sistemas basados en GPU suelen repartir el trabajo de un modelo entre muchos procesadores independientes. Este enfoque puede escalar eficazmente, pero exige mover datos entre chips y coordinar los cálculos mediante distintas capas de memoria y red.

La estrategia de Cerebras concentra una enorme cantidad de núcleos y una amplia red de SRAM en un solo procesador a escala de oblea. La compañía afirma que el WSE-3 utiliza SRAM directamente en el chip, en lugar de depender de la memoria HBM externa habitual en las GPU. La idea es reducir la comunicación durante la decodificación token a token, una fase en la que cada nuevo token puede verse afectado por los accesos a memoria y las demoras de sincronización.

Por eso, el CS-4 resulta especialmente interesante cuando importa la velocidad de respuesta por usuario, por ejemplo en aplicaciones interactivas. Se trata de un desafío más específico para Nvidia que una prueba de que los sistemas a escala de oblea sean superiores en todas las cargas de trabajo. El entrenamiento, el tamaño del modelo, las necesidades de memoria, la inferencia por lotes y la compatibilidad del software pueden cambiar por completo la comparación.

Qué quiere decir «hasta 30 veces más rápido»

Cerebras promociona el CS-4 como un sistema de inferencia hasta 30 veces más rápido que las soluciones con GPU. La cobertura del lanzamiento precisa que la comparación se refiere a tokens por segundo por usuario, no a una mejora general de 30× en cualquier tipo de carga.

La diferencia es importante. Para que una comparación entre aceleradores sea reproducible, debería especificar como mínimo:

• El modelo y su número de parámetros.
• El sistema de GPU utilizado como referencia.
• El tamaño del lote y el número de usuarios simultáneos.
• La longitud del contexto de entrada.
• La longitud de la respuesta.
• La precisión numérica y la cuantización.
• Si la medición incluye la fase de prefill, la decodificación o ambas.
• El consumo energético, el hardware y los costes operativos.

Las pruebas aportadas no incluyen todos esos datos en una comparación reproducible y auditada de forma independiente. Por tanto, el 30× debe entenderse como una afirmación de Cerebras vinculada a determinadas condiciones de servicio, no como una ventaja garantizada frente a cualquier despliegue de Nvidia.

La salvedad de la sparsidad en las cifras de FLOPS

Las cifras máximas de cómputo de IA pueden resultar especialmente engañosas cuando se basan en operaciones dispersas. Un análisis señala que los 125 petaflops FP16 del WSE-3 son una cifra dispersa calculada con una proporción de sparsidad no estructurada de 8:1. Según esa estimación, el rendimiento FP16 denso sería de aproximadamente 15,625 petaflops.

El mismo criterio debe aplicarse al interpretar los 250 petaflops dispersos anunciados para el WSE-3 Turbo y sus 25 petaflops densos. El rendimiento máximo disperso es útil cuando el modelo y el software pueden aprovechar de forma eficiente el patrón de sparsidad correspondiente. No describe automáticamente el rendimiento de un modelo de lenguaje denso.

En la práctica, las métricas más útiles son la latencia de extremo a extremo, los tokens por segundo sostenidos, el rendimiento con un nivel de concurrencia definido, el consumo energético y el coste por token generado. Estos resultados también pueden variar según el tamaño de la caché KV, el paralelismo del modelo, la agrupación de solicitudes, la proporción entre prefill y decodificación, la cuantización y la madurez del entorno de ejecución.

Arquitectura Nexus y calendario de disponibilidad

El CS-4 se presenta como el primer sistema basado en la arquitectura Nexus de Cerebras. Reuters informó de que el rack estaría disponible en el tercer trimestre de 2026, mientras que la cobertura del lanzamiento señaló que los primeros envíos comenzarían durante el trimestre en curso.

Las fuentes disponibles no ofrecen suficiente detalle para verificar todas las características arquitectónicas planteadas en la discusión original. En particular, no confirman de forma independiente una implementación modular denominada «backpack», una interconexión de toroide 2D sin switches, las características exactas de refrigeración y consumo del rack ni un plan comprometido de capacidad agregada. Esas afirmaciones no deberían presentarse como especificaciones definitivas del CS-4 sin documentación más sólida.

Las colaboraciones con AWS y AMD

Cerebras sí cuenta con una colaboración documentada con AWS centrada en la inferencia desagregada. En ese modelo, los sistemas Trainium de AWS se encargan del prefill, mientras que los sistemas Cerebras CS-3 realizan la decodificación. Ambos componentes se conectan mediante la red Elastic Fabric Adapter de Amazon y se ofrecen a través de Amazon Bedrock.

El acuerdo es relevante porque muestra que la arquitectura de Cerebras puede complementar a otros aceleradores, en lugar de limitarse a reemplazarlos. El prefill y la decodificación tienen características de rendimiento distintas, por lo que un sistema híbrido puede asignar cada fase al hardware más adecuado.

Los informes disponibles también describen una configuración de AMD y Cerebras que utilizaría GPU de AMD para el prefill y procesadores Cerebras para la decodificación. Directivos de Cerebras afirmaron que la combinación podría multiplicar por cinco el rendimiento, con un despliegue previsto para el cuarto trimestre de 2026. Se trata de afirmaciones futuras de la empresa, no de resultados de producción verificados de forma independiente.

Las pruebas disponibles no establecen que AWS o AMD hayan comprometido un despliegue concreto del CS-4 a una escala determinada. Sí respaldan la existencia de colaboraciones y planes de inferencia híbrida, pero no garantizan una mejora de rendimiento para todos los clientes.

¿Puede el CS-4 sustituir a Nvidia?

Por ahora, no. El CS-4 representa un desafío arquitectónico creíble en un segmento más concreto, aunque valioso: la decodificación de modelos de lenguaje con baja latencia para usuarios interactivos. Su procesador a escala de oblea, la SRAM integrada y el elevado ancho de banda interno están diseñados para reducir los costes de comunicación que aparecen cuando la inferencia se distribuye entre muchas GPU independientes.

La posición de Nvidia, sin embargo, no depende únicamente de los números máximos de sus aceleradores. El ecosistema de software, la compatibilidad con modelos, la disponibilidad, las redes, el coste total de propiedad y la capacidad de atender numerosos modelos y tipos de carga son factores igualmente importantes. Además, la promesa de 30× necesita pruebas comparables antes de poder interpretarse como una amenaza general de sustitución de las GPU.

La conclusión más prudente es que el CS-4 amplía las opciones competitivas para la inferencia de IA. Puede resultar especialmente atractivo cuando la prioridad es la velocidad de generación de tokens por usuario; que sea más rápido o más barato en un despliegue concreto dependerá del modelo, la carga de trabajo y la metodología de evaluación.