General Compute 的首席执行官 Finn Puklowski 指出,SN50 芯片的生成速度将达到每秒 600 到 700 个 token,而 GPU 的速度大约是每秒 250 个 token 。这近 3 倍的速度提升不只是为了在规格表上更好看;它对于需要相互通信、在每一步都分毫必争的多轮实时任务中运行的自主AI智能体至关重要。
General Compute 已为 SN50 芯片下达了价值 3亿美元 的订单,并声称自己是第一家部署该芯片的云服务商 。此举呼应了市场向推理优化芯片的重大转变,这一趋势的明证包括英伟达以 200 亿美元收购 Groq,以及 Cerebras 高达 570亿美元的IPO 。
即便是最好的芯片,如果没有地方通电运行也毫无价值。AI热潮催生了一个巨大的数据中心建设瓶颈,新建一个数据中心往往需要数年的时间和巨额的资金投入。General Compute 的应对之道,则是完全跳过土建工程这一环。
关键在于硬件设计。与主导AI训练的、需要液冷且耗电惊人的GPU集群不同,SambaNova的SN50芯片是风冷设计,功耗显著降低。这意味着它们无需进行昂贵、专业的场地改造,可以部署在种类更多的现有数据中心设施中 。
这为这家初创公司最富创意的基建策略打开了大门:与加密货币矿工签订托管(Colocation)协议。随着加密货币挖矿利润下降,许多矿工坐拥着巨大的基础设施——带有庞大电力容量、工业级冷却和高速网络的场地——正在寻找新的用途 。General Compute 的计划很简单,就是将这些风冷的 SN50 机柜直接安装到这些现成的场地中,不花一分钱新建费用,不多等一天工期,就能立即获得AI基础设施建设中最难获取的基础要素 。
General Compute 的战略,是对AI未来的一场双重赌注。在硬件层面,它赌的是,为自主智能体提供推理服务将是一个独特且庞大的市场,需要专用的ASIC,而非从训练任务中退役的通用GPU。在基础设施层面,它赌的是,通过改造既有设施来让芯片快速上线,远比在纸面规格上追求边际性能提升更为重要。如果它判断正确,General Compute 将不仅仅是一家新的云服务提供商;它将成为未来AI公司如何解决行业最紧迫的物理和资金瓶颈的一份蓝图。