Cerebras CS-4 對決 Nvidia：30 倍推論速度究竟代表什麼？

Cerebras 正把戰線拉到 Nvidia 最重要的 AI 基礎設施市場之一：推論（inference），也就是模型訓練完成後，根據使用者輸入逐步生成答案的過程。這家公司的新款 CS-4 是一套以 3 顆 WSE-3 Turbo 處理器打造的機櫃級系統，Cerebras 宣稱，在單一使用者情境下，它生成模型 token 的速度最高可達 GPU 系統的 30 倍。

這項數字讓 CS-4 成為聊天機器人和大型語言模型（LLM）低延遲服務的值得注意選項。但它並不等於 Cerebras 已證明自己能全面取代 Nvidia。現有資料支持 CS-4 的基本規格與市場定位；至於部分架構細節、未來路線圖和規模化部署說法，仍缺乏足夠獨立驗證。

CS-4 是什麼？

CS-4 不是一台塞入大量獨立加速卡的傳統伺服器，而是一套機櫃級 AI 推論平台。它把 3 顆晶圓級 WSE-3 Turbo 晶片整合在單一系統中，目標是服務需要快速且穩定產生 token 的 AI 應用。

這套設計延續 WSE-3 的晶圓級處理器架構。WSE-3 據報搭載 4 兆個電晶體、90 萬個 AI 最佳化運算核心，以及 44 GB 晶圓上 SRAM。 技術比較資料則列出 WSE-3 最高 125 petaflops 的運算能力，以及每秒 21 petabytes 的記憶體頻寬。

WSE-3 Turbo 被描述為 WSE-3 的超頻版本。現有報導指出，它維持 90 萬個核心、44 GB SRAM 和台積電 5 奈米製程，但透過提高運作效能來增加整體表現。

WSE-3 Turbo 與 CS-4 規格

Cerebras 及相關發布資料列出的主要數字包括：

• 每個機櫃搭載 3 顆 WSE-3 Turbo 處理器
• 每個機櫃標稱 750 petaflops AI 運算能力
• 每個機櫃 129.6 PB/s 記憶體頻寬
• 每個機櫃 7.2 Tb/s I/O 頻寬
• 每顆處理器擁有 90 萬個核心與 44 GB SRAM

《The Register》的比較資料指出，WSE-3 Turbo 將單片晶圓的稀疏 FP16 運算能力由 125 petaflops 提高至 250 petaflops，記憶體頻寬由 21.6 PB/s 提高至 43.2 PB/s，I/O 頻寬則由 1.2 Tb/s 提高至 2.4 Tb/s；資料同時列出 Turbo 處理器 25 petaflops 的密集 FP16 運算能力。

不過，這些是理論峰值或供應商公布的能力，不能直接視為所有應用的實際效能。機櫃的峰值 FLOPS，並不會自動轉換成每個模型或每種服務設定下的 token 生成速度。

Cerebras 為何認為延遲可以勝過 GPU 叢集？

GPU 系統通常會把模型工作分散到多顆獨立處理器。這種方式具備良好的擴充彈性，但也需要在晶片之間搬移資料，並透過記憶體與網路層協調運算。

Cerebras 的晶圓級策略，則是在單一處理器上放入大量運算核心與 SRAM。Cerebras 表示，WSE-3 直接使用晶片上的 SRAM，而不是依賴 GPU 常見的片外 HBM。 對逐 token 解碼而言，這種設計的預期好處是減少資料傳輸與同步所造成的額外負擔；每生成一個 token，記憶體存取和協調延遲都可能影響使用者體感。

因此，CS-4 最具吸引力的場景是單一使用者的回應速度，尤其是互動式 AI 應用。這是一場更聚焦的 Nvidia 挑戰，而不是宣稱晶圓級系統在所有 AI 工作負載上都更優秀。訓練、批次推論、模型大小、記憶體需求和軟體相容性，都可能改變最終比較結果。

「快 30 倍」到底代表什麼？

Cerebras 宣傳 CS-4 的推論速度最高可達 GPU 系統的 30 倍。 相關發布報導所指的比較，具體是每位使用者每秒生成的 token 數（tokens per second per user），而不是所有工作負載都全面提升 30 倍。

這個區別非常重要。要公平比較兩套 AI 加速器，至少需要交代：

• 使用哪個模型及其參數量
• GPU 基準系統的具體配置
• 批次大小與同時連線的使用者數
• 輸入上下文長度
• 輸出長度
• 採用的精度與量化方式
• 測量的是 prefill、decode，還是兩者合計
• 功耗、硬體成本與運作成本

目前提供的資料沒有交代所有能夠重現結果的條件，也沒有顯示這項比較已經過獨立審核。因此，「30 倍」應理解為Cerebras 在特定服務條件下提出的供應商宣稱，不能直接當成對所有 Nvidia 部署的保證性優勢。

FLOPS 數字背後的稀疏性限制

當峰值 AI 算力採用稀疏運算計算時，數字尤其容易造成誤解。有分析指出，WSE-3 標示的 125 petaflops FP16 是建立在假設 8:1 非結構化稀疏性的稀疏數字；若換算成密集 FP16 吞吐量，估計約為 15.625 petaflops。

解讀 WSE-3 Turbo 標示的 250 petaflops 稀疏算力和 25 petaflops 密集算力時，也必須注意同一問題。 如果模型與軟體堆疊無法有效利用相應的稀疏模式，稀疏峰值效能就不等於實際 LLM 的生成吞吐量。

對實際推論而言，更有參考價值的指標包括端到端延遲、穩定的每秒 token 數、特定並發量下的總吞吐量、耗電量，以及每生成一個 token 的成本。這些結果還會受到 KV cache 大小、模型平行化、批次處理、prefill 與 decode 的工作比例、量化方式和執行環境成熟度影響。

Nexus 架構與上市狀態

CS-4 被描述為首款採用 Cerebras Nexus 平台架構的系統。 路透社報導稱，這套機櫃預計在 2026 年第三季推出；發布相關報導則表示，首批出貨將於當季開始。

但目前資料不足以獨立確認原始討論中提到的所有架構細節。包括模組化「背包式」設計、無交換器 2D torus 互連、確切的機櫃散熱與功耗特性，以及已承諾的整體容量規模，都不應在缺乏更完整文件的情況下被視為已確定的 CS-4 規格。

AWS 與 AMD 合作的意義

Cerebras 已有具體記錄在案的 AWS 合作，重點是「解耦式推論」（disaggregated inference）。在這種架構中，AWS Trainium 系統負責 prefill，也就是處理輸入內容；Cerebras CS-3 系統則負責 decode，即逐步生成答案。兩者透過 Amazon 的 Elastic Fabric Adapter（EFA）網路連接，並透過 Amazon Bedrock 提供服務。

這顯示 Cerebras 的架構可以與其他加速器互補，而不只是試圖直接取代它們。由於 prefill 和 decode 的效能特性不同，混合系統可以把兩個階段分配給更適合的硬體。

現有報導也提到一套 AMD 與 Cerebras 的配置：由 AMD GPU 負責 prefill，再由 Cerebras 處理器負責 decode。Cerebras 高層表示，這種安排可將吞吐量提高 5 倍，預計在 2026 年第四季部署。 不過，這仍是公司的前瞻性說法，並非獨立驗證的生產環境結果。

目前證據無法證明 AWS 或 AMD 已承諾以特定規模部署 CS-4。可以確認的是雙方存在合作與規劃中的混合推論工作，但不能據此保證每位客戶都能獲得相同的吞吐量提升。

CS-4 能取代 Nvidia 嗎？

目前還不能這樣下結論。 CS-4 確實在一個較窄、但商業價值很高的領域提出了可信的架構挑戰：互動式使用者所需要的低延遲 LLM 解碼。它透過晶圓級處理器、晶片上 SRAM 和極高的內部頻寬，試圖降低把推論工作分散到多顆獨立 GPU 時產生的通訊成本。

然而，Nvidia 的競爭力並不只由加速器峰值數字決定。軟體生態、模型支援、供貨能力、網路互連、總持有成本，以及同時服務多種模型與工作負載的能力，同樣關鍵。Cerebras 的 30 倍宣稱也需要在相同模型、相同服務條件和相同測量方法下完成基準測試，才能被用來支持更廣泛的 GPU 取代論述。

最穩妥的結論是：CS-4 擴大了 AI 推論市場的硬體選項。當每位使用者的 token 生成速度是首要考量時，它可能相當有吸引力；但在特定部署中究竟更快、更省電或更便宜，仍取決於實際工作負載與基準測試方法。