Cerebras CS-4 mot Nvidia: Hvor mye betyr egentlig «30 ganger raskere»?

WSE-3 Turbo beskrives som en overklokket versjon av den samme grunnarkitekturen. Tilgjengelig omtale sier at den beholder de 900 000 kjernene, 44 GB SRAM og 5-nanometers produksjonsprosessen, men øker ytelsen.

Spesifikasjonene for WSE-3 Turbo og CS-4

Cerebras og omtaler av lanseringen oppgir følgende hovedtall for CS-4:

• Tre WSE-3 Turbo-prosessorer per rack
• 750 petaflops oppgitt KI-ytelse per rack
• 129,6 PB/s minnebåndbredde per rack
• 7,2 Tb/s I/O-båndbredde per rack
• 900 000 kjerner og 44 GB SRAM per prosessor
• Opptil dobbelt så høy hastighet per wafer som forrige generasjon, ifølge Cerebras

The Register oppgir at WSE-3 Turbo øker teoretisk, sparsom FP16-ytelse per wafer fra 125 til 250 petaflops, minnebåndbredden fra 21,6 til 43,2 PB/s og I/O-båndbredden fra 1,2 til 2,4 Tb/s. Samme sammenligning oppgir 25 petaflops tett FP16-ytelse for Turbo-prosessoren.

Tallene beskriver teoretiske eller leverandøroppgitte kapasiteter, ikke en universell målestokk for applikasjonsytelse. Et racks maksimale FLOPS-tall kan ikke uten videre oversettes til tokens per sekund for alle modeller og betjeningsoppsett.

Hvorfor mener Cerebras at selskapet kan slå GPU-klynger på svartid?

GPU-baserte systemer fordeler vanligvis modellberegningen over mange separate prosessorer. Det kan gi god skalering, men krever også at data flyttes mellom brikkene og at beregningene koordineres gjennom minne- og nettverkslag.

Cerebras’ wafer-skala-strategi samler et svært stort antall beregningskjerner og et omfattende SRAM-system på én prosessor. Cerebras sier at WSE-3 bruker SRAM direkte på brikken, i stedet for å basere seg på HBM utenfor brikken, slik mange GPU-systemer gjør. Målet er å redusere kommunikasjonskostnadene under dekoding token for token, der hvert nytt token kan påvirkes av forsinkelser i minnetilgang og synkronisering.

Derfor er CS-4 først og fremst interessant når svarhastigheten for den enkelte bruker er viktig – for eksempel i interaktive chatbotter. Det er en mer avgrenset utfordring til Nvidia enn en påstand om at wafer-skala-systemer er best for alle KI-oppgaver. Trening, gjennomstrømming i batchjobber, modellstørrelse, minnebehov og programvarestøtte kan alle endre sammenligningen.

Hva betyr «opptil 30 ganger raskere»?

Cerebras markedsfører CS-4 som opptil 30 ganger raskere enn GPU-systemer for inferens. Omtalen av lanseringen presiserer at sammenligningen gjelder tokens per sekund per bruker, ikke en generell 30-dobling på tvers av alle arbeidslaster.

Det skillet er viktig. En troverdig sammenligning av akseleratorer bør som minimum oppgi:

• Modell og antall parametere
• Hvilket GPU-system som brukes som referanse
• Batchstørrelse og antall samtidige brukere
• Lengde på inndataenes kontekst
• Lengde på utdataene
• Presisjon og kvantisering
• Om målingen gjelder prefylling, dekoding eller begge deler
• Strømforbruk, maskinvarekostnad og driftskostnad

Kildene som er tilgjengelige her, inneholder ikke alle disse opplysningene i en reproduserbar og uavhengig kontrollert sammenligning. 30-gangers-tallet bør derfor forstås som Cerebras’ påstand under bestemte betjeningsforhold, ikke som en garantert fordel over enhver Nvidia-installasjon.

Forbeholdet om sparsitet i FLOPS-tallene

Maksimal KI-ytelse kan være særlig misvisende når tallene bygger på sparsom aritmetikk. En analyse påpeker at WSE-3s oppgitte FP16-tall på 125 petaflops er et sparsomt tall basert på en antatt, ustrukturert sparsitet på 8:1. Analysen anslår derfor tett FP16-gjennomstrømming til rundt 15,625 petaflops.

Det samme forbeholdet gjelder når man tolker WSE-3 Turbos oppgitte 250 petaflops i sparsom beregning og 25 petaflops i tett beregning. Sparsom toppytelse er relevant når modellen og programvarestakken effektivt kan utnytte den aktuelle sparsiteten. Den beskriver ikke automatisk gjennomstrømmingen til en tett språkmodell.

For praktisk inferens er det mer nyttig å se på total svartid, vedvarende tokens per sekund, gjennomstrømming ved en definert grad av samtidighet, strømforbruk og kostnad per generert token. Resultatene kan også variere med størrelsen på KV-cachen, modellparallellisering, batching, forholdet mellom prefylling og dekoding, kvantisering og modenheten til kjøretidsmiljøet.

Nexus-arkitekturen og leveringsstatus

CS-4 beskrives som det første systemet bygget rundt Cerebras’ Nexus-plattformarkitektur. Reuters rapporterte at racket skulle bli tilgjengelig i tredje kvartal 2026, mens omtale av lanseringen sa at de første leveransene skulle starte i inneværende kvartal.

Kildene gir imidlertid ikke nok detaljer til å bekrefte alle arkitekturpåstandene som ble reist i den opprinnelige diskusjonen. De bekrefter blant annet ikke uavhengig en modulær «ryggsekk»-konstruksjon, et svitsjløst 2D-torus-nettverk, nøyaktige tall for kjøling og strømforbruk eller en bindende plan for samlet kapasitet. Slike påstander bør derfor ikke presenteres som endelige CS-4-spesifikasjoner uten mer solid dokumentasjon.

Partnerskapene med AWS og AMD

Cerebras har allerede et dokumentert samarbeid med AWS om disaggregert inferens. I denne modellen håndterer AWS Trainium-systemer prefyllingen, mens Cerebras CS-3-systemer tar seg av dekodingen. Komponentene kobles sammen gjennom Amazons Elastic Fabric Adapter-nettverk og tilbys via Amazon Bedrock.

Dette er viktig fordi det viser hvordan Cerebras’ arkitektur kan supplere, snarere enn bare erstatte, andre akseleratorer. Prefylling og dekoding har ulike ytelsesegenskaper, og en hybridløsning kan derfor tildele hvert trinn til maskinvaren som passer best.

Kildene beskriver også en AMD- og Cerebras-konfigurasjon der AMD-GPU-er skal håndtere prefylling, mens Cerebras-prosessorer tar seg av dekodingen. Cerebras-ledere har sagt at løsningen kan øke gjennomstrømmingen fem ganger, med planlagt utrulling i fjerde kvartal 2026. Dette er fremtidsrettede påstander fra selskapene, ikke uavhengig bekreftede resultater fra produksjon.

Dokumentasjonen viser ikke at AWS eller AMD har forpliktet seg til en bestemt CS-4-installasjon i en oppgitt skala. Den støtter at det finnes partnerskap og planlagt hybrid inferens, men ikke en garantert økning i gjennomstrømming for alle kunder.

Erstatter CS-4 Nvidia?

Ikke foreløpig. CS-4 er en troverdig arkitektonisk utfordrer i et smalere, men verdifullt segment: LLM-dekoding med lav svartid for interaktive brukere. Wafer-skala-prosessoren, SRAM-et på selve brikken og den høye interne båndbredden er utviklet for å redusere kommunikasjonskostnadene som oppstår når inferens fordeles over mange separate GPU-er.

Nvidias posisjon avgjøres likevel ikke av topp­tall for akseleratorer alene. Programvareøkosystem, modellstøtte, tilgjengelighet, nettverk, totale eierkostnader og evnen til å håndtere mange ulike modeller og arbeidslaster er minst like viktig. Cerebras’ påstand om 30 ganger høyere hastighet trenger dessuten sammenlignbare referansetester før den kan brukes som en generell påstand om at GPU-er fortrenges.

Den mest holdbare konklusjonen er at CS-4 utvider konkurransen innen KI-inferens. Systemet kan være særlig attraktivt når tokens per bruker skal genereres så raskt som mulig. Om det faktisk er raskere eller billigere i en konkret installasjon, avhenger av arbeidslasten og hvordan testen er gjennomført.