Cerebras CS-4 kontra Nvidia: co naprawdę oznacza obietnica 30 razy szybszego wnioskowania

WSE-3 Turbo opisuje się jako podkręconą wersję tej samej podstawowej konstrukcji. Dostępne informacje wskazują, że zachowuje ona 900 000 rdzeni, 44 GB pamięci SRAM i proces technologiczny 5 nm, ale pracuje z wyższą wydajnością.

Specyfikacja CS-4 i WSE-3 Turbo

Najważniejsze liczby podawane przez Cerebras oraz w relacjach z premiery wyglądają następująco:

• trzy procesory WSE-3 Turbo w jednej szafie
• 750 petaflopsów deklarowanej mocy obliczeniowej AI na szafę
• 129,6 PB/s przepustowości pamięci na szafę
• 7,2 Tb/s przepustowości I/O na szafę
• 900 000 rdzeni i 44 GB SRAM na procesor
• do dwukrotnie wyższa szybkość pojedynczego wafla względem poprzedniej generacji, według Cerebras

Porównanie opublikowane przez „The Register” wskazuje, że WSE-3 Turbo zwiększa deklarowaną przepustowość obliczeń rzadkich FP16 z 125 do 250 petaflopsów, przepustowość pamięci z 21,6 do 43,2 PB/s, a przepustowość I/O z 1,2 do 2,4 Tb/s. Dla obliczeń gęstych FP16 podano 25 petaflopsów.

To wartości teoretyczne lub deklarowane przez producenta. Szczytowa liczba FLOPS nie przekłada się automatycznie na liczbę tokenów generowanych na sekundę przez każdy model i w każdej konfiguracji serwowania.

Skąd ma się brać przewaga nad klastrami GPU?

W systemach GPU obliczenia modelu są zazwyczaj rozdzielane między wiele osobnych procesorów. Takie podejście dobrze skaluje się w wielu zastosowaniach, ale wymaga przesyłania danych między układami oraz koordynowania pracy przez kolejne warstwy pamięci i sieci.

Strategia Cerebras polega na umieszczeniu ogromnej liczby rdzeni obliczeniowych i dużego zasobu SRAM na jednym procesorze wykonanym w skali wafla. Firma podkreśla, że WSE-3 korzysta z pamięci SRAM bezpośrednio na układzie, zamiast polegać na znajdującej się poza chipem pamięci HBM typowej dla wielu GPU.

Potencjalna korzyść jest najbardziej widoczna podczas dekodowania, czyli generowania odpowiedzi token po tokenie. Mniejsza liczba komunikatów między układami może ograniczać opóźnienia związane z dostępem do pamięci i synchronizacją.

Dlatego CS-4 jest przede wszystkim konkurentem dla Nvidii w obszarze szybkości odpowiedzi przypadającej na użytkownika, a nie dowodem na wyższość architektury Cerebras w każdym zadaniu AI. Wynik porównania może zmienić się zależnie od tego, czy chodzi o trenowanie, masowe wnioskowanie wsadowe, bardzo duży model, konkretną kwantyzację czy zgodność z używanym oprogramowaniem.

Co naprawdę oznacza „do 30 razy szybciej”?

Cerebras reklamuje CS-4 jako system zapewniający do 30 razy szybsze wnioskowanie niż rozwiązania GPU. Relacje z premiery doprecyzowują, że chodzi o liczbę tokenów na sekundę na użytkownika, a nie o ogólną, 30-krotną poprawę we wszystkich obciążeniach.

To kluczowe rozróżnienie. Rzetelne porównanie akceleratorów powinno określać co najmniej:

• model i liczbę jego parametrów,
• system GPU użyty jako punkt odniesienia,
• wielkość partii i liczbę jednoczesnych użytkowników,
• długość kontekstu wejściowego,
• długość generowanej odpowiedzi,
• precyzję obliczeń i kwantyzację,
• to, czy pomiar obejmuje fazę prefill, dekodowanie czy oba etapy,
• zużycie energii, koszty sprzętu i koszty operacyjne.

Dostępne źródła nie przedstawiają kompletnej, możliwej do odtworzenia i niezależnie audytowanej konfiguracji testu. Wartość 30× należy więc traktować jako deklarację Cerebras dotyczącą konkretnych warunków obsługi, a nie gwarantowaną przewagę nad każdym wdrożeniem Nvidii.

Dlaczego liczby dotyczące FLOPS wymagają ostrożności?

Szczytowe wyniki AI mogą być mylące, zwłaszcza gdy dotyczą obliczeń rzadkich (sparse). Jedna z analiz zwraca uwagę, że wartość 125 petaflopsów FP16 dla WSE-3 jest liczbą rzadką, opartą na założeniu 8:1 nieustrukturyzowanej rzadkości. Według tej analizy odpowiadająca jej wydajność dla obliczeń gęstych wynosi około 15,625 petaflopsów.

Podobnie należy interpretować deklarowane 250 petaflopsów rzadkich FP16 dla WSE-3 Turbo oraz 25 petaflopsów gęstych FP16. Wydajność rzadka ma znaczenie wtedy, gdy model i stos programistyczny potrafią skutecznie wykorzystać konkretny wzorzec pomijania obliczeń. Nie opisuje automatycznie przepustowości gęstego dużego modelu językowego.

W praktyce ważniejsze są pomiary end-to-end: opóźnienie, stabilna liczba tokenów na sekundę, przepustowość przy określonej liczbie użytkowników, zużycie energii i koszt wygenerowania tokena. Na wynik wpływają również rozmiar pamięci podręcznej KV, sposób podziału modelu, batching, proporcja prefill do dekodowania, kwantyzacja oraz dojrzałość środowiska uruchomieniowego.

Architektura Nexus i dostępność systemu

CS-4 przedstawiono jako pierwszy system oparty na architekturze platformowej Nexus. Reuters informował, że urządzenie ma być dostępne w trzecim kwartale 2026 r., natomiast relacje z premiery mówiły o rozpoczęciu pierwszych dostaw w bieżącym kwartale.

Dostępne materiały nie potwierdzają jednak wystarczająco szczegółowo wszystkich cech przypisywanych tej konstrukcji. Dotyczy to między innymi modułowej architektury określanej jako „plecak”, bezprzełącznikowej sieci w topologii 2D torus, dokładnych parametrów zasilania i chłodzenia szafy oraz deklarowanej łącznej mocy obliczeniowej. Tych elementów nie należy uznawać za ustaloną specyfikację CS-4 bez mocniejszej dokumentacji.

Współpraca z AWS i AMD

Cerebras ma udokumentowaną współpracę z Amazon Web Services dotyczącą rozdzielonego wnioskowania. W tym modelu systemy AWS Trainium obsługują fazę prefill, a systemy Cerebras CS-3 zajmują się dekodowaniem. Obie części łączy sieć Amazon Elastic Fabric Adapter (EFA), a usługa ma być dostępna za pośrednictwem Amazon Bedrock.

To pokazuje, że architektura Cerebras może uzupełniać inne akceleratory, zamiast po prostu je zastępować. Prefill i dekodowanie mają odmienne charakterystyki wydajnościowe, więc hybrydowy system może kierować każdy etap do sprzętu najlepiej dopasowanego do jego potrzeb.

Dostępne relacje opisują również konfigurację AMD–Cerebras, w której procesory graficzne AMD obsługują prefill, a układy Cerebras dekodowanie. Kierownictwo Cerebras mówiło o możliwości pięciokrotnego zwiększenia przepustowości, a wdrożenie zapowiedziano na czwarty kwartał 2026 r. Są to jednak przyszłościowe deklaracje firmy, a nie niezależnie potwierdzone wyniki produkcyjne.

Źródła nie potwierdzają, że AWS lub AMD zobowiązały się do wdrożenia konkretnej liczby systemów CS-4 w określonej skali. Potwierdzają współpracę i planowane prace nad hybrydowym wnioskowaniem, ale nie gwarantowany wzrost przepustowości dla każdego klienta.

Czy CS-4 zastąpi Nvidię?

Na tym etapie nie. CS-4 jest wiarygodnym wyzwaniem dla dominacji GPU w węższym, lecz bardzo wartościowym segmencie: niskolatencyjnym dekodowaniu dużych modeli językowych dla interaktywnych użytkowników. Procesor w skali wafla, pamięć SRAM na układzie i wysoka wewnętrzna przepustowość mają ograniczać koszty komunikacji, które pojawiają się przy rozdzielaniu wnioskowania między wiele osobnych GPU.

Pozycję Nvidii określają jednak nie tylko szczytowe parametry akceleratora. Równie istotne są ekosystem programistyczny, obsługa modeli, dostępność sprzętu, sieci, całkowity koszt posiadania oraz możliwość obsługi wielu typów modeli i obciążeń. Również obietnica 30× wymaga testów na tych samych modelach i przy porównywalnych warunkach, zanim będzie można uznać ją za ogólny argument na rzecz odejścia od GPU.

Najbardziej ostrożny wniosek jest taki, że CS-4 poszerza wybór infrastruktury do wnioskowania AI. Może być szczególnie atrakcyjny tam, gdzie priorytetem jest szybkość generowania tokenów dla pojedynczego użytkownika. To, czy w konkretnej instalacji okaże się szybszy lub tańszy od rozwiązania Nvidii, zależy od obciążenia i metodologii pomiaru.