Cerebras CS-4의 ‘엔비디아보다 30배 빠르다’는 주장, 실제 의미는?

Cerebras가 엔비디아를 정조준한 곳은 AI 인프라에서 가장 빠르게 중요해지는 영역 중 하나인 **추론(inference)**입니다. 추론은 이미 학습을 마친 AI 모델이 사용자의 질문에 답하고 토큰을 생성하는 과정입니다.

Cerebras의 신제품 CS-4는 일반적인 GPU 여러 장을 꽂은 서버가 아니라, 웨이퍼급 프로세서 3개를 한 랙에 묶은 시스템입니다. Cerebras는 특정 조건에서 사용자 1명당 토큰 생성 속도가 GPU 기반 시스템보다 최대 30배 빠르다고 홍보합니다.

이 수치는 대화형 챗봇처럼 답변이 얼마나 빨리 시작되고 이어지는지가 중요한 서비스에는 상당히 매력적으로 들립니다. 다만 ‘엔비디아를 대체할 30배 빠른 AI 시스템’이라는 뜻으로 확대 해석하기는 어렵습니다. 현재 확인 가능한 자료는 CS-4의 기본 사양과 제품 포지셔닝을 뒷받침하지만, 상세한 아키텍처·로드맵·대규모 운영 계획에 관한 여러 주장은 독립적으로 검증되지 않았습니다.

CS-4는 어떤 시스템인가

CS-4는 Cerebras의 Nexus 플랫폼 아키텍처를 기반으로 한 랙 단위 추론 시스템입니다. 한 랙에 새롭게 공개된 WSE-3 Turbo(WSE-3T) 프로세서 3개를 탑재하며, 빠르고 일정한 토큰 생성이 필요한 AI 서비스에 초점을 맞춥니다.

기반이 되는 WSE-3는 웨이퍼 한 장에 가까운 크기의 프로세서로, 4조 개의 트랜지스터와 90만 개의 AI 최적화 연산 코어, 44GB의 온웨이퍼 SRAM을 갖춘 것으로 소개됐습니다.

기술 비교 자료에 따르면 기존 WSE-3의 최고 연산 성능은 125페타플롭스, 메모리 대역폭은 약 21페타바이트/초입니다. WSE-3 Turbo는 새로운 세대의 완전히 다른 칩이라기보다, 같은 기본 설계를 더 높은 동작 성능으로 구동하는 오버클록 버전으로 설명됩니다. 90만 개 코어, 44GB SRAM, 5나노미터 제조 공정은 그대로 유지된다는 것이 관련 보도의 설명입니다.

WSE-3 Turbo와 CS-4의 주요 사양

Cerebras와 제품 출시 관련 자료가 제시한 CS-4의 핵심 수치는 다음과 같습니다.

• 랙당 WSE-3 Turbo 프로세서 3개
• 랙당 AI 연산 성능 750페타플롭스
• 랙당 메모리 대역폭 129.6PB/초
• 랙당 I/O 대역폭 7.2Tb/초
• 프로세서당 90만 개 코어와 44GB SRAM
• Cerebras 기준 이전 세대 웨이퍼 대비 최대 2배 속도

The Register의 비교표는 WSE-3 Turbo가 웨이퍼당 희소 FP16 연산 성능을 125페타플롭스에서 250페타플롭스로, 메모리 대역폭을 21.6PB/초에서 43.2PB/초로, I/O 대역폭을 1.2Tb/초에서 2.4Tb/초로 높였다고 정리합니다. 밀집 FP16 연산 성능은 25페타플롭스로 제시됐습니다.

다만 이 수치들은 이론적 또는 제조사 기준의 최고 성능입니다. 랙의 최대 FLOPS가 모든 대규모 언어 모델에서 동일한 초당 토큰 수로 이어지는 것은 아닙니다.

왜 GPU 클러스터보다 지연시간이 짧을 수 있나

GPU 시스템은 대개 모델의 계산을 여러 개의 독립적인 프로세서에 나눠 처리합니다. 이 방식은 규모를 키우기 쉽다는 장점이 있지만, 칩 사이에서 데이터를 옮기고 메모리 및 네트워크 계층을 거쳐 계산을 조율해야 합니다.

Cerebras의 웨이퍼급 설계는 매우 많은 연산 코어와 SRAM을 하나의 프로세서 안에 배치합니다. Cerebras는 WSE-3가 GPU에서 흔히 사용하는 칩 외부의 HBM 대신, 칩 위에 SRAM을 직접 탑재한다고 설명합니다. 의도한 효과는 토큰을 하나씩 생성하는 디코딩 과정에서 발생하는 메모리 접근과 동기화, 칩 간 통신 부담을 줄이는 것입니다.

따라서 CS-4가 가장 강하게 도전하는 영역은 모든 AI 작업이 아니라 사용자별 응답 속도가 중요한 LLM 디코딩입니다. 반면 모델 학습, 대규모 배치 추론, 모델 크기와 메모리 요구량, 소프트웨어 호환성까지 포함하면 GPU와의 비교 결과는 달라질 수 있습니다.

‘최대 30배 빠르다’는 말은 무엇을 뜻하나

Cerebras는 CS-4가 GPU 시스템보다 추론 속도가 최대 30배 빠르다고 홍보합니다. 하지만 출시 보도에서 언급된 비교 기준은 모든 작업의 총괄 성능이 아니라 **사용자 1명당 초당 생성 토큰 수(tokens per second per user)**입니다.

이 차이는 중요합니다. ‘30배’라는 수치를 제대로 비교하려면 최소한 다음 조건이 공개돼야 합니다.

• 사용한 모델과 파라미터 수
• 비교 대상 GPU와 서버 구성
• 배치 크기 및 동시 사용자 수
• 입력 문맥 길이
• 출력 토큰 길이
• 연산 정밀도와 양자화 방식
• 프리필(prefill), 디코딩(decode), 또는 두 단계 모두를 측정했는지 여부
• 전력, 장비, 운영 비용

현재 제공된 자료만으로는 이 모든 조건이 갖춰진 재현 가능한 독립 벤치마크를 확인하기 어렵습니다. 따라서 30배 수치는 특정 서빙 조건에 묶인 Cerebras의 주장으로 보는 것이 정확하며, 모든 엔비디아 배포 환경에서 보장되는 우위로 받아들여서는 안 됩니다.

FLOPS 수치에 숨어 있는 희소성의 함정

AI 가속기의 최고 연산 성능은 희소 연산을 기준으로 표시될 때 특히 주의해서 봐야 합니다. 한 분석에 따르면 WSE-3의 125페타플롭스 FP16 수치는 8 대 1의 비구조적 희소성을 가정한 희소 성능입니다. 이를 밀집 연산 기준으로 환산하면 약 15.625페타플롭스라는 계산이 나옵니다.

WSE-3 Turbo의 희소 FP16 성능 250페타플롭스와 밀집 FP16 성능 25페타플롭스를 해석할 때도 같은 맥락을 적용해야 합니다. 모델과 소프트웨어 스택이 해당 희소성 패턴을 효율적으로 활용할 수 있을 때 희소 최고 성능이 의미를 갖습니다. 일반적인 밀집 LLM의 실제 처리량을 자동으로 나타내는 수치는 아닙니다.

실제 추론에서 더 유용한 지표는 다음과 같습니다.

• 전체 응답 지연시간
• 지속적인 초당 토큰 생성량
• 정해진 동시 사용자 수에서의 처리량
• 전력 사용량
• 생성 토큰당 비용

이 결과 역시 KV 캐시 크기, 모델 병렬화, 배칭, 프리필과 디코딩의 작업 비중, 양자화 방식, 런타임 성숙도에 따라 달라질 수 있습니다.

출시 일정과 확인되지 않은 아키텍처 주장

Reuters는 CS-4가 2026년 3분기에 이용 가능할 예정이라고 보도했고, 출시 관련 보도에서는 첫 출하가 2026년 3분기 중 시작될 것으로 전했습니다.

다만 현재 제공된 자료만으로는 원래 논의에서 제기된 모든 세부 아키텍처를 확인할 수 없습니다. 특히 모듈형 ‘백팩(backpack)’ 구조, 스위치 없는 2D 토러스 인터커넥트, 랙의 정확한 냉각·전력 특성, 확정된 총 컴퓨팅 용량 계획은 CS-4의 확정 사양으로 단정하기 어렵습니다.

AMD의 차세대 Helios가 2026년 말부터 대규모 배치되고 2027년에 확대될 것이라는 전망은 확인되지만, 이것이 Cerebras의 CS-4 제품 로드맵을 의미하는 것은 아닙니다. CS-4 이후 제품과 2027년의 구체적인 Cerebras 생산·용량 계획도 현재 자료만으로는 독립적으로 확인되지 않습니다.

AWS·AMD와의 협력은 ‘대체’보다 ‘분업’에 가깝다

Cerebras와 AWS는 추론 과정을 나눠 처리하는 협력을 이미 발표했습니다. 이 구조에서는 AWS Trainium 시스템이 프리필을 담당하고 Cerebras CS-3 시스템이 디코딩을 맡습니다. 두 시스템은 Amazon의 Elastic Fabric Adapter(EFA) 네트워킹으로 연결되며, Amazon Bedrock을 통해 제공되는 방식입니다.

이는 Cerebras의 칩이 다른 가속기를 무조건 밀어내기보다 서로 보완할 수 있음을 보여주는 사례입니다. 프리필과 디코딩은 성능 특성이 다르기 때문에 각 단계에 더 적합한 하드웨어를 배치하는 하이브리드 구성이 가능합니다.

제공된 보도에는 AMD GPU가 프리필을 처리하고 Cerebras 프로세서가 디코딩을 맡는 구성도 소개돼 있습니다. Cerebras 경영진은 이 조합이 처리량을 5배 높일 수 있으며 2026년 4분기 배포를 예상한다고 밝혔습니다. 그러나 이는 회사의 향후 계획과 주장이지, 독립적으로 검증된 실제 운영 결과는 아닙니다.

AWS나 AMD가 특정 규모의 CS-4 배포를 확정했다는 내용까지 현재 자료가 뒷받침하는 것은 아닙니다. 확인되는 것은 파트너십과 계획된 하이브리드 추론 작업이며, 모든 고객 환경에서 5배 처리량 향상이 보장된다는 뜻은 아닙니다.

CS-4는 엔비디아를 대체할 수 있나

아직은 아니다. CS-4는 가치 있는 특정 영역, 즉 대화형 사용자에게 낮은 지연시간으로 LLM 토큰을 생성하는 작업에서 GPU 중심 인프라에 현실적인 도전장을 내민 제품입니다. 웨이퍼급 프로세서와 온웨이퍼 SRAM, 높은 내부 대역폭을 활용해 여러 개의 독립 GPU에 작업을 분산할 때 생기는 통신 비용을 줄이는 것이 설계의 핵심입니다.

하지만 엔비디아의 경쟁력은 최고 FLOPS 숫자 하나로 결정되지 않습니다. 소프트웨어 생태계, 모델 지원 범위, 제품 접근성, 네트워킹, 총소유비용, 다양한 모델과 작업을 동시에 처리하는 능력도 중요합니다. 특히 Cerebras의 30배 주장은 동일한 모델과 서버, 동시 사용자 수, 정밀도, 비용 조건에서 비교한 벤치마크가 나와야 일반적인 GPU 대체 논거로 사용할 수 있습니다.

현재 가장 신중한 결론은 CS-4가 AI 추론 시장의 선택지를 넓혔다는 것입니다. 사용자별 토큰 생성 속도가 최우선인 서비스라면 주목할 만하지만, 특정 배포 환경에서 정말 더 빠르고 저렴한지는 실제 워크로드와 벤치마크 방법론에 달려 있습니다.