Cerebras CS-4 proti Nvidii: Co skutečně znamená tvrzení o 30× rychlejším inference

Cerebras se snaží Nvidii konkurovat v jedné z nejdůležitějších částí infrastruktury pro umělou inteligenci: inferenci, tedy fázi, kdy již natrénovaný model generuje odpověď. Nový CS-4 je rackový systém se třemi procesory WSE-3 Turbo a Cerebras tvrdí, že dokáže jednotlivým uživatelům poskytovat tokeny až 30× rychleji než systémy založené na GPU.

To z CS-4 dělá zajímavou alternativu pro chatboty a další aplikace, u nichž záleží na odezvě. Samotné marketingové číslo ale neznamená, že Cerebras dokáže obecně nahradit Nvidii. Dostupné zdroje potvrzují základní parametry a zaměření systému, zatímco řada podrobnějších architektonických a roadmapových tvrzení zůstává neověřená.

Co je Cerebras CS-4?

CS-4 není běžný server osazený velkým množstvím samostatných akcelerátorových karet. Jde o rackovou inferenční platformu, která využívá tři wafer-scale procesory WSE-3 Turbo a cílí především na rychlé a předvídatelné generování tokenů v interaktivních AI službách.

Základem je konstrukce WSE-3, wafer-scale procesoru uváděného s 4 biliony tranzistorů, 900 000 AI optimalizovanými výpočetními jádry a 44 GB SRAM přímo na čipu. Technické srovnání u předchozího WSE-3 uvádí špičkový výkon 125 petaflopů a propustnost paměti 21 petabajtů za sekundu.

WSE-3 Turbo je podle dostupných informací přetaktovanou verzí stejného základního návrhu. Zachovává 900 000 jader, 44 GB SRAM i 5nm výrobní proces, ale pracuje s vyšším výkonem.

Parametry WSE-3 Turbo a celého CS-4

Cerebras a zprávy o uvedení produktu uvádějí tyto hlavní hodnoty:

• tři procesory WSE-3 Turbo v jednom racku
• 750 petaflopů deklarovaného AI výkonu na rack
• 129,6 PB/s propustnosti paměti na rack
• 7,2 Tb/s I/O propustnosti na rack
• 900 000 jader a 44 GB SRAM na jeden procesor
• až dvojnásobná rychlost oproti předchozí generaci na jeden wafer, podle Cerebras

Srovnání publikované serverem The Register uvádí, že WSE-3 Turbo zvyšuje řídký výpočetní výkon FP16 na jednom waferu ze 125 na 250 petaflopů, propustnost paměti z 21,6 na 43,2 PB/s a I/O z 1,2 na 2,4 Tb/s. Uvádí také 25 petaflopů hustého výpočtu FP16.

Jde však o teoretické nebo výrobcem deklarované hodnoty, nikoli o univerzální měřítko výkonu aplikací. Maximální počet FLOPS racku se automaticky nepřekládá na stejný počet tokenů za sekundu u každého modelu a způsobu nasazení.

Proč může být Cerebras rychlejší než GPU clustery?

GPU systémy obvykle rozdělují výpočty modelu mezi řadu samostatných procesorů. Tento přístup se dobře škáluje, zároveň ale vyžaduje přesouvání dat mezi čipy a koordinaci výpočtů přes paměťové a síťové vrstvy.

Wafer-scale strategie Cerebras soustřeďuje obrovské množství jader a rozsáhlou SRAM fabric na jediný procesor. Firma uvádí, že WSE-3 používá SRAM přímo na čipu namísto externí paměti HBM, která je běžná u GPU. Zamýšleným přínosem je menší komunikační režie při dekódování odpovědi token po tokenu, kdy každý další token může být citlivý na přístup do paměti a synchronizaci.

CS-4 je proto nejzajímavější hlavně z hlediska rychlosti odpovědi pro konkrétního uživatele. To je užší a přesnější výzva pro Nvidii než tvrzení, že wafer-scale systémy jsou lepší při každém typu AI úlohy. Výsledek mohou výrazně změnit trénování, dávkové inference, velikost modelu, paměťové nároky i kompatibilita softwaru.

Co znamená „až 30× rychlejší inference“?

Cerebras propaguje CS-4 jako systém, který nabízí až třicetinásobně rychlejší inference než GPU systémy. Zprávy o uvedení produktu ale toto srovnání popisují konkrétně jako počet tokenů za sekundu na uživatele, nikoli jako obecné třicetinásobné zrychlení všech AI úloh.

To je zásadní rozdíl. Aby bylo možné akcelerátory férově porovnat, je třeba znát alespoň:

• použitý model a počet jeho parametrů,
• konkrétní GPU systém v roli srovnávací základny,
• velikost dávky a počet souběžných uživatelů,
• délku vstupního kontextu,
• délku generovaného výstupu,
• přesnost a případnou kvantizaci,
• zda měření zahrnuje načtení kontextu, dekódování, nebo obojí,
• spotřebu, cenu hardwaru a provozní náklady.

Dodané zdroje neposkytují všechny tyto údaje v podobě reprodukovatelného, nezávisle auditovaného testu. Číslo 30× je proto třeba chápat jako tvrzení Cerebras platné pro určité podmínky nasazení, nikoli jako zaručený náskok před každou konfigurací Nvidie.

Pozor na řídký výpočetní výkon

Špičkové hodnoty AI výkonu mohou být zavádějící zejména tehdy, když vycházejí z řídké aritmetiky. Jedna z analýz upozorňuje, že hodnota 125 petaflopů FP16 u WSE-3 je uváděna jako řídký výkon založený na předpokladu osmkrát větší neštrukturované sparsity. Pro hustý výpočet odhaduje přibližně 15,625 petaflopu.

Stejnou optikou je nutné číst i údaj 250 petaflopů řídkého výkonu u WSE-3 Turbo a 25 petaflopů hustého FP16 výkonu. Řídký špičkový výkon je užitečný tehdy, když jej model a softwarový stack dokážou efektivně využít. Sám o sobě ale nepopisuje propustnost hustého velkého jazykového modelu.

Pro reálné nasazení jsou důležitější měření celkové latence, dlouhodobé rychlosti generování tokenů, propustnosti při definované souběžnosti, spotřeby a ceny za vygenerovaný token. Výsledky dále ovlivňuje velikost KV cache, paralelismus modelu, dávkování, poměr načítání kontextu a dekódování, kvantizace i vyspělost běhového prostředí.

Architektura Nexus a dostupnost

CS-4 je popisován jako první systém postavený na architektuře Nexus. Reuters uvedl, že rack měl být dostupný ve třetím čtvrtletí 2026, zatímco zprávy při uvedení produktu hovořily o prvních dodávkách během aktuálního čtvrtletí.

Dostupné zdroje ale neposkytují dost informací k ověření všech detailů z původních popisů. Nezávisle nepotvrzují zejména modulární konstrukci označovanou jako „batoh“, bezspínačové propojení ve formě 2D toru, přesné parametry chlazení a spotřeby racku ani závazný plán agregované kapacity. Tyto body proto nelze bez další dokumentace vydávat za definitivní specifikace CS-4.

Spolupráce s AWS a AMD

Cerebras má zdokumentovanou spolupráci s Amazon Web Services zaměřenou na oddělenou inferenci. V tomto modelu systémy AWS Trainium zpracovávají fázi načtení vstupního kontextu, zatímco systémy Cerebras CS-3 obstarávají dekódování. Obě části propojuje síť Elastic Fabric Adapter a služba je dostupná přes Amazon Bedrock.

Tento model ukazuje, že architektura Cerebras může jiné akcelerátory doplňovat, nikoli pouze nahrazovat. Načtení kontextu a dekódování mají odlišné výkonové charakteristiky, takže každou fázi lze přiřadit hardwaru, který se pro ni hodí lépe.

Dostupné zprávy popisují také konfiguraci AMD a Cerebras, v níž GPU AMD zpracovávají načtení kontextu a procesory Cerebras dekódování. Vedení Cerebras uvedlo, že takové řešení by mohlo zvýšit propustnost pětinásobně; nasazení se očekává ve čtvrtém čtvrtletí 2026. Jde o výhledová tvrzení společnosti, nikoli o nezávisle ověřené výsledky z produkce.

Z dostupných podkladů nevyplývá, že by AWS nebo AMD závazně potvrdily konkrétní nasazení CS-4 v určitém měřítku. Potvrzují partnerství a plánovanou hybridní inferenci, nikoli garantované zvýšení propustnosti pro každého zákazníka.

Nahradí CS-4 Nvidii?

Zatím ne. CS-4 představuje věrohodnou architektonickou konkurenci v užší, ale obchodně významné oblasti: nízkolatenční dekódování velkých jazykových modelů pro interaktivní uživatele. Jeho wafer-scale procesor, SRAM přímo na čipu a vysoká interní propustnost mají omezit komunikační náklady vznikající při rozdělení inference mezi množství samostatných GPU.

Postavení Nvidie však neurčují jen špičková čísla akcelerátorů. Stejně důležité jsou softwarový ekosystém, podpora modelů, dostupnost, síťová infrastruktura, celkové náklady vlastnictví a schopnost obsloužit různé modely i typy zátěže. Tvrzení o třicetinásobné rychlosti navíc potřebuje srovnatelné benchmarky, než z něj bude možné vyvozovat obecné vytlačení GPU.

Nejstřízlivější závěr zní: CS-4 rozšiřuje možnosti, které mají provozovatelé AI inference k dispozici. Může být velmi atraktivní tam, kde je prioritou rychlost generování tokenů pro jednotlivého uživatele. Zda bude v konkrétním nasazení rychlejší nebo levnější, ale závisí na modelu, zátěži a metodice měření.