1500万ドルのスタートアップが挑む、AIインフラ最大の壁

AIインフラを巡る競争は、新たな壁に突き当たっている。問題は、単に「十分な数のチップを確保する」ことではない。「適切な」チップを手に入れ、それを「稼働させる場所」を見つけることだ。この二大課題に対し、大胆な解決策を提示するスタートアップ「General Compute」が現れ、1500万ドルの資金を調達した。

汎用GPUではなく、特化型シリコンへの賭け

General Computeは「推論ネオクラウド」だ。これは、AIの学習フェーズではなく、訓練済みモデルがユーザーに応答を返す「推論」フェーズに特化した計算能力を貸し出す事業者を指す。業界がNvidiaの汎用GPU（画像処理半導体）に支配される中、同社は逆張りとも言える戦略を取る。それは、推論に最適化された専用チップ「ASIC（特定用途向け集積回路）」こそが最適解であるという賭けだ。

その武器として選んだのが、SambaNovaの新型チップ「SN50」である。SambaNovaはSN50が競合アクセラレータと比較して最大5倍高速で、GPUベースのシステムと比べて総所有コストを最大3分の1に削減できるとしている。General Computeにとっての魅力は、急成長する「エージェントAI（自律型AI）」というユースケースにおける純粋な処理速度と効率性だ。

CEOのフィン・プクロウスキー氏は、SN50チップが1秒あたり600～700トークンを生成するのに対し、GPUは約250トークンだと説明する。この約3倍という速度向上は、単なるスペック上の優位性ではない。ミリ秒単位の遅延がパフォーマンスを左右する、リアルタイムで多段階の処理を自律的に行うAIエージェントにとっては、本質的な要件なのだ。

General ComputeはSN50を3億ドル分発注しており、このチップを実際に稼働させる最初のネオクラウドになるとしている。この動きは、推論に最適化された専用シリコンへと市場が大きくシフトしている流れを反映したものだ。NvidiaによるAI推論企業Groqの200億ドルでの買収や、同じく推論特化の Cerebras の570億ドルでのIPOがその証左と言えるだろう。