Cerebras CS-4の「推論30倍高速」は何を意味するのか？NVIDIAとの違いを検証

Cerebras Systemsは、AIインフラの中でも商業的に重要性が高まる**推論（inference）**分野でNVIDIAに挑んでいる。推論とは、学習済みのAIモデルがユーザーの入力に対して回答を生成する処理のことだ。

同社が発表した「CS-4」は、3基のWSE-3 Turboプロセッサを1ラックに組み込んだシステムで、ユーザーごとのトークン生成速度がGPUベースのシステムより最大30倍速いとCerebrasは説明している。

この主張が示すのは、チャットボットや大規模言語モデル（LLM）を使った対話サービスのように、1ユーザーあたりの応答の速さが重視される用途で有力な選択肢になり得るということだ。ただし、現時点の証拠だけで、CerebrasがNVIDIAを幅広く置き換えられると結論づけることはできない。基本仕様や製品の位置づけは確認できる一方、詳細なアーキテクチャーや将来計画の一部は独立した資料で裏付けられていない。

Cerebras CS-4とは

CS-4は、多数のアクセラレータカードを搭載する一般的なサーバーではなく、ウェーハスケールのプロセッサを中心に構成したラック型の推論プラットフォームだ。3基のWSE-3 Turboを使い、安定した高速トークン生成を必要とするAIサービスを主な対象としている。

基盤となるWSE-3は、4兆個のトランジスタ、900,000個のAI最適化コア、44GBのオンウェーハSRAMを搭載すると報告されている。 技術比較では、従来のWSE-3について、ピーク演算性能125ペタフロップス、メモリ帯域21ペタバイト毎秒という数値が示されている。

WSE-3 Turboは、WSE-3の基本設計を維持したオーバークロック版と説明されている。報道によれば、900,000コア、44GBのSRAM、5nm製造プロセスはそのままに、動作性能を高めた。

WSE-3 TurboとCS-4の主な仕様

Cerebrasおよび製品発表を報じた資料に基づくCS-4の主な数値は次の通りだ。

• 1ラックあたりWSE-3 Turboを3基
• AI演算性能750ペタフロップス
• メモリ帯域129.6ペタバイト毎秒
• I/O帯域7.2テラビット毎秒
• プロセッサ1基あたり900,000コア、44GBのSRAM
• Cerebrasによれば、1ウェーハあたりの速度は前世代の最大2倍

The Registerの比較では、WSE-3 TurboのウェーハあたりのスパースFP16演算性能は125ペタフロップスから250ペタフロップスへ、メモリ帯域は21.6ペタバイト毎秒から43.2ペタバイト毎秒へ、I/O帯域は1.2テラビット毎秒から2.4テラビット毎秒へ増えたとされる。同資料は、Turboの密行列FP16性能を25ペタフロップスとしている。

ただし、これらは理論値またはベンダーが公表した能力値だ。ラックのピークFLOPSが、そのまま各種LLMの1秒あたりトークン数に変換されるわけではない。

なぜGPUクラスターより低遅延にできるのか

GPUベースのシステムでは通常、モデルの処理を複数の独立したプロセッサに分散させる。この方式は大規模化しやすい反面、チップ間でデータを移動し、メモリやネットワークをまたいで計算を同期する必要がある。

Cerebrasのウェーハスケール方式では、非常に多数の演算コアと大容量のSRAMを1つのプロセッサ上に配置する。Cerebrasによれば、WSE-3はGPUで一般的なチップ外のHBMに依存せず、チップ上のSRAMを直接利用する。

この構成が狙うのは、トークンを1つずつ生成するデコード処理における通信や同期のオーバーヘッドを抑えることだ。したがってCS-4の強みが最も表れやすいのは、バッチ処理全体の最大スループットというより、対話中のユーザーが待つ時間を短くすることだと考えられる。

これは、ウェーハスケール方式があらゆるAI処理でGPUを上回るという意味ではない。学習、バッチ推論、モデルの大きさ、必要なメモリ容量、ソフトウェア互換性などによって比較結果は変わる。

「最大30倍高速」の正しい読み方

Cerebrasは、CS-4の推論速度がGPUシステムより最大30倍速いと訴求している。 しかし、発表を報じた記事が示す比較軸は、一般的な処理性能ではなく、ユーザー1人あたり毎秒何トークンを生成できるかだ。

この違いは重要だ。アクセラレーターを公平に比較するには、少なくとも以下の条件が必要になる。

• 使用したモデルとパラメーター数
• 比較対象となったGPUシステム
• バッチサイズと同時接続ユーザー数
• 入力コンテキストの長さ
• 出力トークンの長さ
• 精度と量子化方式
• プリフィル、デコード、または両方の測定か
• 電力、ハードウェア、運用コスト

今回提供された資料には、これらすべてを含む再現可能で独立監査済みの比較結果はない。したがって「30倍」は、特定のサービング条件に結びついたCerebras側の主張として読むべきであり、すべてのNVIDIA構成に対する保証された優位性ではない。

FLOPSの数字に潜むスパース性の注意点

AIアクセラレーターのピーク性能は、スパース演算を前提にすると大きく見えることがある。ある分析では、WSE-3の125ペタフロップスというFP16性能は、8対1の非構造化スパース性を仮定したスパース値だと指摘されている。この前提を外した密行列FP16性能は、約15.625ペタフロップスになるという。

WSE-3 Turboのスパース性能250ペタフロップスと、密行列性能25ペタフロップスを読む際にも、同じ点に注意が必要だ。 モデルとソフトウェアがそのスパース性を効率よく利用できる場合、スパースのピーク性能は意味を持つ。しかし、それが密なLLMの実効スループットを自動的に示すわけではない。

実運用で重視すべきなのは、エンドツーエンドの遅延、一定の同時実行数での持続的なトークン生成速度、消費電力、生成トークンあたりのコストだ。これらはKVキャッシュのサイズ、モデル並列化、バッチ処理、プリフィルとデコードの比率、量子化、ランタイムの成熟度によっても変動する。

Nexusアーキテクチャーと提供時期

CS-4は、Cerebrasの「Nexus」プラットフォーム・アーキテクチャーを採用した最初のシステムと説明されている。 Reutersは、このラックが2026年第3四半期に利用可能になる予定だと報じており、別の発表報道では初回出荷が同年の当該四半期に始まるとされている。

一方、提供資料だけでは、元の議論で挙げられた細かな設計上の主張をすべて検証することはできない。具体的には、モジュール式の「バックパック」構成、スイッチを使わない2Dトーラス接続、ラックの正確な冷却・電力特性、確定済みの総容量計画などだ。より強い技術資料が示されない限り、これらをCS-4の確定仕様として扱うべきではない。

AWS・AMDとの連携は「置き換え」より「組み合わせ」

Cerebrasには、分離型推論をめぐるAWSとの文書化された協業がある。この構成では、AWS Trainiumシステムがプリフィルを担当し、Cerebras CS-3システムがデコードを担当する。両者はAmazonのElastic Fabric Adapter（EFA）ネットワークで接続され、Amazon Bedrock経由で提供される。

これは、Cerebrasの設計が他のアクセラレーターを単純に置き換えるだけでなく、補完できることを示す。プリフィルとデコードでは性能上の特性が異なるため、それぞれに適したハードウェアへ処理を振り分ける考え方だ。

提供された報道では、AMD GPUをプリフィルに、Cerebrasプロセッサをデコードに使う構成も説明されている。Cerebras幹部は、この組み合わせによりスループットを5倍にできる可能性があると述べ、2026年第4四半期の導入を見込んでいる。 ただし、これは企業側の将来見通しであり、量産環境で独立検証された結果ではない。

AWSまたはAMDが、特定規模のCS-4導入を確約したことを示す証拠も、今回の資料からは確認できない。確認できるのは協業と計画中のハイブリッド推論であり、すべての顧客に5倍の性能向上が保証されたということではない。

CS-4はNVIDIAを置き換えるのか

現時点では、そうとは言えない。CS-4は、インタラクティブなユーザー向けの低遅延LLMデコードという、範囲は絞られているものの価値の高い領域で、GPU中心の構成に対する現実的な挑戦となる可能性がある。ウェーハスケールのプロセッサ、オンウェーハSRAM、高い内部帯域によって、複数のGPUに処理を分散する際に生じる通信コストを抑える設計だからだ。

しかし、NVIDIAの競争力はピーク演算性能だけで決まらない。ソフトウェアエコシステム、モデル対応、製品の入手性、ネットワーク、総保有コスト、さまざまなモデルや処理に対応できる柔軟性も同じように重要だ。特に30倍という主張は、同じモデル、同じ負荷、同じ電力・コスト条件で測ったベンチマークがなければ、GPU全体を置き換える一般論には使えない。

最も妥当な結論は、CS-4がAI推論の選択肢を広げるということだ。1ユーザーあたりのトークン生成速度が最優先なら魅力的な候補になり得るが、特定の導入で本当に速いのか、安いのかは、ワークロードとベンチマーク方法次第である。