Cerebras CS-4 contro Nvidia: il vero significato della promessa “30x”

Il WSE-3 Turbo viene descritto come una versione overclockata dello stesso progetto di base. Le informazioni pubblicate indicano che conserva i 900.000 core, i 44 GB di SRAM e il processo produttivo a 5 nanometri, aumentando però la velocità operativa.

Specifiche di WSE-3 Turbo e CS-4

Le cifre principali comunicate da Cerebras e dai resoconti sul lancio sono:

• Tre processori WSE-3 Turbo per rack
• 750 petaflop di calcolo IA dichiarati per rack
• 129,6 PB/s di banda di memoria per rack
• 7,2 Tb/s di banda I/O per rack
• 900.000 core e 44 GB di SRAM per processore
• Fino al doppio della velocità per wafer rispetto alla generazione precedente, secondo Cerebras

Il confronto pubblicato da The Register indica che il WSE-3 Turbo porta il calcolo FP16 sparso per wafer da 125 a 250 petaflop, la banda di memoria da 21,6 a 43,2 PB/s e la banda I/O da 1,2 a 2,4 Tb/s. La stessa analisi riporta 25 petaflop di calcolo FP16 denso per il processore Turbo.

Sono tuttavia valori teorici o dichiarati dal produttore, non una misura universale delle prestazioni applicative. I FLOPS di picco di un rack non si trasformano automaticamente in un determinato numero di token al secondo per ogni modello o configurazione di servizio.

Perché Cerebras pensa di poter ridurre la latenza rispetto alle GPU

Nei sistemi basati su GPU, il lavoro di un modello viene normalmente distribuito tra molti processori separati. Questa soluzione può scalare bene, ma richiede di spostare dati tra i chip e coordinare i calcoli attraverso livelli di memoria e rete.

La strategia wafer-scale di Cerebras concentra un numero molto elevato di core e una grande quantità di SRAM sullo stesso processore. L’azienda afferma che il WSE-3 utilizza direttamente SRAM integrata sul chip, invece di affidarsi alla HBM esterna tipica di molte GPU. L’obiettivo è ridurre il costo delle comunicazioni durante il decoding token per token, una fase in cui ogni nuovo token può risentire dei tempi di accesso alla memoria e della sincronizzazione.

È qui che il CS-4 appare più convincente: nella rapidità della risposta per singolo utente, soprattutto nelle applicazioni interattive. La proposta è quindi una sfida più mirata a Nvidia, non la dimostrazione che l’architettura wafer-scale sia migliore per ogni carico di lavoro. Addestramento, inferenza batch ad alto volume, dimensioni del modello, requisiti di memoria e compatibilità software possono cambiare completamente il confronto.

Che cosa significa davvero “fino a 30 volte più veloce”?

Cerebras presenta il CS-4 come un sistema capace di offrire un’inferenza fino a 30 volte più veloce rispetto alle piattaforme GPU. I resoconti sul lancio precisano però che il confronto riguarda i token al secondo per utente, non un miglioramento generale di 30 volte su qualsiasi carico di lavoro.

La distinzione è fondamentale. Per valutare correttamente un acceleratore servirebbe conoscere almeno:

• il modello e il numero di parametri;
• il sistema GPU usato come riferimento;
• la dimensione del batch e il numero di utenti simultanei;
• la lunghezza del contesto in ingresso;
• la lunghezza dell’output;
• precisione numerica e quantizzazione;
• se la misura riguarda il prefill, il decoding o entrambe le fasi;
• consumi, hardware e costi operativi.

Le fonti disponibili non forniscono tutti questi elementi in un confronto riproducibile e sottoposto a verifica indipendente. Il dato “30x” va quindi letto come una dichiarazione di Cerebras legata a determinate condizioni di servizio, non come un vantaggio garantito contro ogni implementazione Nvidia.

Il limite della sparsità nei valori di FLOPS

I valori di calcolo di picco possono essere particolarmente fuorvianti quando si basano sull’aritmetica sparsa. Un’analisi osserva che il dato di 125 petaflop FP16 del WSE-3 è un valore sparso, calcolato assumendo un rapporto di sparsità non strutturata di 8:1. La stessa analisi stima un throughput FP16 denso di circa 15,625 petaflop.

Lo stesso aspetto deve essere considerato quando si interpretano i 250 petaflop sparsi dichiarati per il WSE-3 Turbo e i 25 petaflop densi riportati per il processore. Le prestazioni sparse sono utili se il modello e lo stack software riescono a sfruttare in modo efficiente quel particolare schema di sparsità. Non descrivono automaticamente il throughput di un LLM denso.

Per l’inferenza pratica contano di più la latenza end-to-end, i token al secondo mantenuti nel tempo, il throughput a un livello di concorrenza definito, i consumi e il costo per token generato. Anche questi risultati possono variare in base alla dimensione della KV cache, al parallelismo del modello, al batching, al rapporto tra prefill e decode, alla quantizzazione e alla maturità del runtime.

Architettura Nexus e tempi di disponibilità

Il CS-4 viene descritto come il primo sistema basato sull’architettura Nexus di Cerebras. Reuters ha riportato una disponibilità prevista nel terzo trimestre del 2026, mentre i resoconti sul lancio parlano di prime spedizioni già nel trimestre in corso.

Le fonti disponibili non permettono però di verificare ogni caratteristica architetturale citata nelle discussioni iniziali. In particolare, non confermano in modo indipendente un’implementazione modulare denominata “backpack”, un’interconnessione 2D a toro senza switch, i dati esatti su raffreddamento e consumi del rack o un piano vincolante per la capacità aggregata. Senza documentazione più solida, questi elementi non dovrebbero essere presentati come specifiche definitive del CS-4.

Le partnership con AWS e AMD

Cerebras ha già una collaborazione documentata con AWS sull’inferenza disaggregata. In questo modello, i sistemi AWS Trainium gestiscono la fase di prefill, mentre i sistemi Cerebras CS-3 si occupano del decoding. I componenti sono collegati tramite la rete Elastic Fabric Adapter di Amazon e resi disponibili attraverso Amazon Bedrock.

L’accordo è significativo perché mostra come l’architettura Cerebras possa affiancare, anziché semplicemente rimpiazzare, altri acceleratori. Prefill e decode hanno caratteristiche prestazionali diverse: una configurazione ibrida può assegnare ciascuna fase all’hardware più adatto.

Le informazioni disponibili descrivono inoltre una configurazione AMD-Cerebras in cui le GPU AMD gestirebbero il prefill e i processori Cerebras il decoding. I dirigenti di Cerebras hanno dichiarato che questa soluzione potrebbe aumentare il throughput di cinque volte, con una distribuzione prevista nel quarto trimestre del 2026. Si tratta però di previsioni dell’azienda, non di risultati di produzione verificati in modo indipendente.

Le fonti non dimostrano che AWS o AMD abbiano già impegnato una specifica implementazione CS-4 a una scala precisa. Confermano partnership e piani per l’inferenza ibrida, non un aumento di throughput garantito per ogni cliente.

Il CS-4 può sostituire Nvidia?

Non ancora. Il CS-4 rappresenta una sfida architetturale credibile in un segmento più ristretto ma importante: il decoding a bassa latenza degli LLM per utenti interattivi. Il processore wafer-scale, la SRAM integrata e l’elevata banda interna sono progettati per ridurre i costi di comunicazione che emergono quando l’inferenza viene distribuita su molte GPU separate.

La posizione di Nvidia, però, non dipende soltanto dai numeri di calcolo di picco. Ecosistema software, compatibilità con i modelli, disponibilità, networking, costo totale di gestione e capacità di servire numerosi modelli e tipi di carico sono altrettanto importanti. Anche la promessa del 30x deve essere sottoposta a benchmark comparabili prima di poter essere usata come prova di una sostituzione generalizzata delle GPU.

La conclusione più prudente è che il CS-4 amplia le opzioni disponibili per l’inferenza IA. Può essere particolarmente interessante quando la velocità dei token per singolo utente è la priorità; stabilire se sia davvero più veloce o più economico di una soluzione Nvidia dipende dal carico di lavoro e dal metodo con cui viene eseguito il benchmark.