一场匿名测试,最终指向智谱
8 月 26 日,智谱 AI(国际品牌为 Z.ai)确认,近期在开发者平台上突然走红的匿名模型“Ox Alpha”,就是 GLM-5.3-Flash。中文社区此前常称它为“牛来”。这款模型在正式亮相前,以不带公司标识的方式部署在 OpenRouter 和 OpenCode 上,进行了一轮近似“盲测”的公开试用。
1
4
6
智谱同时将 GLM-5.3-Flash 定位为开放权重、原生多模态的混合专家模型,并公布了后续定价。模型支持文本、图片、视频和文件等输入,面向长上下文与高吞吐推理场景。
五天超过 50 万亿 Token,六天突破 60 万亿
匿名测试的最大看点,是它在短时间内吸引了异常庞大的真实使用量。相关报道显示,Ox Alpha 在 OpenRouter 和 OpenCode 上线后,五天内的调用量超过 50 万亿 Token;随后披露的统计显示,六天累计调用量超过 60 万亿 Token,并登上两个平台的用量榜首。其峰值使用量据报一度超过同类 DeepSeek 产品的两倍。
3
这些数字反映的是平台上的 Token 处理量,并不等同于用户人数,也不能单凭调用量证明模型在所有任务上都优于竞争对手。它们更直接说明:一个尚未公开身份、价格接近免费的模型,能够在全球开发者社区中迅速获得大规模试用。
关键披露:推理服务使用国产芯片
智谱称,Ox Alpha 匿名测试期间的推理服务完全运行在一个由超过 10 万枚中国制造 AI 芯片组成的集群上。公司还表示,在完成软件优化后,这套系统的硬件效率和单 Token 成本已经达到主流英伟达 GPU 的可比水平。
3
6
不过,智谱没有公开确认芯片的具体型号或供应商。有关华为、摩尔线程和海光可能参与供应的说法,属于媒体报道或行业猜测,不能视为智谱的正式确认。
40
这项披露的意义需要准确理解:它并不能证明国产 AI 芯片在所有场景下已经全面追平英伟达,也不能推出国产芯片的推理成本普遍等同于英伟达 GPU。更稳妥的结论是,在针对特定模型、特定服务规模进行系统级优化后,非英伟达的国产硬件栈确实能够承载一次大规模、真实世界的全球推理负载。
3
6
软件工程,可能比单看芯片参数更关键
为了应对 GLM-5.3-Flash 的超长上下文和大规模并发,智谱据报基于 SGLang 打造了专用推理引擎,并采用多种软硬件协同优化方案,包括:
- W8A8 量化;
- INT8、FP8 与 BF16 混合缓存量化;
- 节点内张量并行;
- 将 Encode、Prefill、Decode 拆分为可独立扩展的资源池,即 EPD 架构。
4
7
这些技术主要用于缓解显存容量、内存带宽、芯片间通信和任务调度等瓶颈。尤其是在最大约 100 万 Token 的上下文窗口下,缓存管理与数据搬运往往和原始算力同样重要。
智谱据报称,这些改动让端到端服务性能相较初始基线提升约三倍。SGLang 后续文档也展示了更高的吞吐量,以及 FP8 缓存池相较 BF16 对比配置更大的容量;但这份文档并不是对智谱“三倍提升”说法的独立审计。
2
这对英伟达 CUDA 生态的启示是:在部分生产级推理任务中,针对模型定制的软件栈和推理引擎,可能降低对 CUDA 的依赖。但 CUDA 在开发工具、生态系统、开发者基础和模型训练方面的优势并未因此消失,现有证据也不足以支持“国产芯片已取代 CUDA”这样的更强结论。
GLM-5.3-Flash 的规格与表现
GLM-5.3-Flash 采用稀疏混合专家架构,总参数量为 3200 亿,每个 Token 实际激活约 180 亿参数,并支持 1,048,576 个 Token 的上下文窗口。
5
7
它还被定位为 GLM-5 系列首款原生多模态模型,也就是说,多模态能力被纳入模型本身,而不是在语言模型之外简单叠加一层视觉或视频模块。
4
5
在 Artificial Analysis Intelligence Index 这一综合指标上,GLM-5.3-Flash 的报告得分为 57,与 Claude Opus 4.8 的报告得分相同。
1这只能说明两者在该综合指数上处于相同分数水平,并不意味着它们在每项基准测试、每类真实任务或智能体应用中的表现完全相等。
产品定位上,智谱希望它与 DeepSeek V4 Flash、DeepSeek V4 Pro 等高效率、前沿级模型竞争,同时通过更低价格吸引开发者。现有材料不足以核实它与这两款 DeepSeek 模型逐项基准测试的完整对比,因此不宜把“竞争”直接解读为全面性能领先。
定价:每百万 Token 低至 0.15 美元
智谱公布的 API 价格为:
- 输入:每百万 Token 0.15 美元;
- 输出:每百万 Token 0.50 美元。
1
报道将这一价格描述为 GLM-5.3 价格的大约十分之一,以及 Claude Opus 4.8 的约四十分之一。但这类倍数会受到输入或输出方向、上下文长度档位和具体计费方案影响,因此应视为近似比较,而非适用于所有场景的固定比例。
1
总体而言,“牛来”事件真正值得关注的地方,不只是匿名模型最终被确认属于智谱,也不只是一次低价模型发布,而是它展示了大模型推理竞争的另一条路径:模型架构、量化方法、并行策略、缓存管理和芯片适配能力,正在共同决定一项 AI 服务能否以低成本承受全球级流量。