Cerebras CS-4 đối đầu Nvidia: Đằng sau tuyên bố suy luận AI nhanh hơn 30 lần

WSE-3 Turbo được mô tả là phiên bản tăng xung của thiết kế WSE-3. Theo các thông tin hiện có, nó vẫn giữ 900.000 lõi, 44 GB SRAM và quy trình sản xuất 5 nanomet, nhưng nâng hiệu năng vận hành.

Thông số nổi bật của WSE-3 Turbo và CS-4

Các thông tin do Cerebras công bố và những bài viết mô tả màn ra mắt đưa ra các con số chính sau:

• Ba bộ xử lý WSE-3 Turbo trong mỗi rack
• 750 petaflops năng lực tính toán AI được công bố cho mỗi rack
• 129,6 PB/giây băng thông bộ nhớ cho mỗi rack
• 7,2 Tb/giây băng thông I/O cho mỗi rack
• 900.000 lõi và 44 GB SRAM trên mỗi bộ xử lý
• Tốc độ trên mỗi wafer cao hơn tối đa hai lần so với thế hệ trước, theo Cerebras

The Register cho biết WSE-3 Turbo nâng năng lực tính toán FP16 thưa trên mỗi wafer từ 125 lên 250 petaflops, băng thông bộ nhớ từ 21,6 lên 43,2 PB/giây và băng thông I/O từ 1,2 lên 2,4 Tb/giây. Bài viết cũng ghi nhận 25 petaflops tính toán FP16 dày cho bộ xử lý Turbo.

Dù ấn tượng, đây là các chỉ số lý thuyết hoặc do nhà sản xuất báo cáo, không phải thước đo chung cho hiệu năng của mọi ứng dụng. FLOPS đỉnh của một rack không tự động chuyển thành số token mỗi giây giống nhau với mọi mô hình hay cấu hình phục vụ.

Vì sao Cerebras cho rằng CS-4 có thể vượt cụm GPU về độ trễ?

Các hệ thống GPU thường chia công việc của mô hình cho nhiều bộ xử lý riêng biệt. Cách tiếp cận này có thể mở rộng tốt, nhưng đòi hỏi dữ liệu phải di chuyển giữa các chip, đồng thời cần điều phối tính toán qua nhiều lớp bộ nhớ và mạng kết nối.

Chiến lược wafer-scale của Cerebras đặt số lượng rất lớn lõi tính toán cùng một mạng lưới SRAM trên một bộ xử lý. Cerebras cho biết WSE-3 sử dụng SRAM trực tiếp trên chip, thay vì phụ thuộc vào HBM bên ngoài chip như nhiều GPU. Mục tiêu là giảm chi phí giao tiếp trong quá trình giải mã từng token — giai đoạn mà mỗi token tạo ra đều có thể bị ảnh hưởng bởi việc truy cập bộ nhớ và độ trễ đồng bộ.

Vì vậy, CS-4 hấp dẫn nhất ở tốc độ phản hồi trên mỗi người dùng, đặc biệt với các ứng dụng tương tác. Đây là một hướng cạnh tranh chuyên biệt hơn với Nvidia, chứ chưa phải lời khẳng định rằng kiến trúc wafer-scale tốt hơn trong mọi loại tác vụ AI. Kết quả so sánh có thể thay đổi tùy theo việc triển khai là huấn luyện hay suy luận, kích thước mô hình, yêu cầu bộ nhớ, suy luận theo lô và khả năng tương thích phần mềm.

“Nhanh hơn tới 30 lần” thực sự có nghĩa gì?

Cerebras quảng bá CS-4 có thể suy luận nhanh hơn hệ thống GPU tới 30 lần. Các bài viết về sản phẩm mô tả phép so sánh này cụ thể hơn: đó là số token mỗi giây trên mỗi người dùng, không phải mức cải thiện 30 lần cho mọi workload.

Sự khác biệt này rất quan trọng. Một phép so sánh bộ tăng tốc đáng tin cậy cần nêu rõ ít nhất:

• Mô hình và số lượng tham số
• Hệ thống GPU dùng làm mốc đối chiếu
• Kích thước batch và số người dùng đồng thời
• Độ dài ngữ cảnh đầu vào
• Độ dài đầu ra
• Độ chính xác tính toán và phương pháp lượng tử hóa
• Phép đo bao gồm prefill, giải mã hay cả hai
• Điện năng, phần cứng và chi phí vận hành

Các nguồn được cung cấp chưa đưa ra đầy đủ những điều kiện này trong một bài kiểm thử có thể tái lập và được kiểm toán độc lập. Do đó, con số 30 lần nên được hiểu là tuyên bố của Cerebras trong một số điều kiện phục vụ nhất định, chứ không phải lợi thế được bảo đảm trước mọi hệ thống Nvidia.

Điểm cần lưu ý về các con số FLOPS dựa trên tính thưa

Các chỉ số tính toán AI đỉnh có thể gây hiểu nhầm, đặc biệt khi chúng sử dụng phép tính thưa. Một phân tích lưu ý rằng con số 125 petaflops FP16 của WSE-3 là chỉ số tính thưa, dựa trên giả định tỷ lệ thưa không cấu trúc 8:1. Theo ước tính này, thông lượng FP16 dày chỉ khoảng 15,625 petaflops.

Vấn đề tương tự cần được tính đến khi đọc con số 250 petaflops FP16 thưa và 25 petaflops FP16 dày của WSE-3 Turbo. Hiệu năng đỉnh ở chế độ thưa chỉ hữu ích khi mô hình và phần mềm có thể khai thác hiệu quả dạng thưa tương ứng. Nó không tự động phản ánh thông lượng của một LLM dày.

Trong suy luận thực tế, các chỉ số đáng quan tâm hơn là độ trễ đầu-cuối, số token/giây duy trì được, thông lượng ở một mức đồng thời cụ thể, mức tiêu thụ điện và chi phí trên mỗi token tạo ra. Những kết quả này còn chịu ảnh hưởng của kích thước KV-cache, cách chia mô hình, batching, tỷ trọng prefill so với giải mã, lượng tử hóa và độ成熟 của runtime.

Kiến trúc Nexus và thời điểm triển khai

CS-4 được mô tả là hệ thống đầu tiên xây dựng trên kiến trúc nền tảng Nexus của Cerebras. Reuters đưa tin hệ thống dự kiến có mặt trong quý III/2026, trong khi thông tin về màn ra mắt cho biết những lô hàng đầu tiên sẽ bắt đầu ngay trong quý hiện tại.

Tuy nhiên, các nguồn được cung cấp chưa đủ để xác minh mọi đặc điểm kiến trúc được nêu trong những thảo luận ban đầu. Cụ thể, chưa có đủ tài liệu độc lập xác nhận thiết kế mô-đun “ba lô”, kết nối 2D-torus không cần switch, thông số chính xác về điện năng và làm mát của rack, hay kế hoạch công suất tổng thể đã cam kết. Không nên xem các điểm này là thông số CS-4 đã được xác lập nếu thiếu tài liệu mạnh hơn.

Quan hệ hợp tác với AWS và AMD

Cerebras đã có một hợp tác được ghi nhận với AWS về suy luận phân tách. Trong mô hình này, hệ thống AWS Trainium xử lý giai đoạn prefill, còn hệ thống Cerebras CS-3 đảm nhiệm giải mã; hai thành phần kết nối qua công nghệ mạng Elastic Fabric Adapter của Amazon và được cung cấp thông qua Amazon Bedrock.

Điều này cho thấy kiến trúc Cerebras có thể bổ trợ, thay vì chỉ đơn giản thay thế, các bộ tăng tốc khác. Prefill và giải mã có đặc tính hiệu năng khác nhau, nên một hệ thống lai có thể giao mỗi giai đoạn cho loại phần cứng phù hợp hơn.

Các thông tin được cung cấp cũng mô tả một cấu hình AMD-Cerebras, trong đó GPU AMD xử lý prefill còn bộ xử lý Cerebras đảm nhiệm giải mã. Lãnh đạo Cerebras cho biết cách kết hợp này có thể tăng thông lượng gấp năm lần, với kế hoạch triển khai vào quý IV/2026. Đây là tuyên bố hướng tới tương lai của doanh nghiệp, chưa phải kết quả sản xuất được kiểm chứng độc lập.

Các bằng chứng hiện có không cho thấy AWS hay AMD đã cam kết triển khai CS-4 ở một quy mô cụ thể. Chúng chỉ củng cố việc tồn tại của các quan hệ hợp tác và kế hoạch suy luận lai, không phải mức tăng thông lượng được bảo đảm cho mọi khách hàng.

CS-4 có thể thay thế Nvidia không?

Chưa thể kết luận như vậy. CS-4 là một thách thức kiến trúc đáng kể trong một phân khúc hẹp hơn nhưng có giá trị cao: giải mã LLM độ trễ thấp cho người dùng tương tác. Bộ xử lý wafer-scale, SRAM trên chip và băng thông nội bộ lớn được thiết kế để giảm chi phí giao tiếp phát sinh khi suy luận được phân tán trên nhiều GPU rời.

Nhưng vị thế của Nvidia không chỉ được quyết định bởi các con số tính toán đỉnh. Hệ sinh thái phần mềm, mức hỗ trợ mô hình, khả năng cung ứng, mạng kết nối, tổng chi phí sở hữu và khả năng phục vụ nhiều loại mô hình cũng quan trọng không kém. Tuyên bố nhanh hơn 30 lần của Cerebras cần được kiểm tra bằng các benchmark đối sánh trước khi có thể dùng như một nhận định chung về khả năng thay thế GPU.

Kết luận thận trọng nhất là CS-4 mở rộng các lựa chọn cạnh tranh cho hạ tầng suy luận AI. Hệ thống này có thể đặc biệt phù hợp khi tốc độ tạo token trên mỗi người dùng là ưu tiên hàng đầu; còn việc nó nhanh hơn hay rẻ hơn trong một triển khai cụ thể sẽ phụ thuộc vào workload và phương pháp đo.