智谱 AI（国际品牌为 Z.ai）于 2026 年 8 月 26 日揭开了匿名模型“Ox Alpha”的身份。这个在中文开发者社区被称为“牛来”的模型，实际上是 GLM 系列的新成员 GLM-5.3-Flash，一款开放权重、原生多模态的混合专家模型。115

这次揭晓同时带来了一个更受行业关注的基础设施信息：智谱表示，GLM-5.3-Flash 此前在 OpenRouter 和 OpenCode 上以匿名形式免费测试，5 天内处理的流量超过 50 万亿 Token；相关推理服务全部由超过 10 万张国产芯片组成的集群承载。815

匿名测试，变成了一场真实压力测试

Ox Alpha 上线时没有显示所属公司，也没有传统发布会式的品牌加持。开发者只能根据回答质量、响应速度、稳定性和可用性决定是否继续使用。模型很快登上 OpenRouter 和 OpenCode 的使用量榜首。13

后续报道显示，6 天内的总流量超过 60 万亿 Token；另有平台数据称，OpenRouter 上的使用量一度超过可比 DeepSeek 流量的两倍。由于不同报道采用的统计周期和平台口径并不一致，更稳妥的结论是：这次匿名试用在 5 天内突破了 50 万亿 Token，并吸引了异常庞大的开发者需求。1330

这点很关键。用户当时并不知道模型背后是智谱，也不知道它使用什么芯片。他们实际上是在用脚投票：如果模型不够快、不够稳或效果不佳，免费也未必能带来如此规模的调用。

十万张国产芯片，智谱究竟声称了什么

智谱表示，GLM-5.3-Flash 的在线推理负载运行在超过 10 万张中国制造的加速芯片上。通过软件和系统优化后，智谱称其硬件效率与单 Token 成本已经达到主流英伟达 GPU 的相近水平。1524

不过，智谱在目前公开材料中没有点名具体芯片供应商。行业报道曾提到华为、摩尔线程和海光可能参与其中，但这一说法尚未得到智谱正式确认，不能当作已核实的供应商名单。3040

这项声明需要准确理解。它并不等于：

• 国产芯片在所有 AI 工作负载上都已经达到英伟达水平；
• 国产硬件已经取代英伟达用于模型训练；或
• 两套生态在开发工具、软件兼容性和使用体验上完全等价。

更准确的解读是：当模型结构、推理引擎和硬件平台一起进行针对性优化时，大规模在线推理服务可以围绕非英伟达的国产硬件栈搭建。这是一个关于“系统协同设计”的案例，而不是对整个芯片产业竞争格局的最终裁决。

推理软件，可能比芯片型号更重要

GLM-5.3-Flash 支持最长 1,048,576 Token 的上下文窗口。对推理系统而言，这意味着更高的显存容量、内存带宽、芯片间通信和任务调度要求。智谱基于 SGLang 构建了专用推理引擎，并采用了多项优化技术，包括：1124

• W8A8 量化：降低计算和内存压力；
• INT8、FP8 与 BF16 混合缓存量化：在容量、速度和精度之间进行权衡；
• 节点内张量并行：将模型计算拆分到同一节点的多个加速器上；
• Encode–Prefill–Decode（EPD）分离架构：把多模态编码、提示词预填充和逐 Token 解码拆成可独立扩缩容的工作池。

这种拆分的好处在于，不同阶段可以按照各自的计算特征调度资源，而不必让整个服务被最慢或最占内存的环节牵制。智谱称，在同一批硬件上，这套方案让端到端服务性能较初始基线提升约 3 倍。2426

SGLang 后续文档还报告了相较 BF16 对照配置的额外吞吐提升，以及 FP8 缓存容量增加。不过，这些文档数据不能被视为对智谱最初“三倍提升”说法的独立审计。17

对英伟达 CUDA 优势意味着什么

这次事件对英伟达最直接的启示，集中在推理而非整个 AI 计算市场。

针对特定模型，量化、专用算子、并行策略和调度系统能够降低对 CUDA 的依赖。换句话说，英伟达的硬件优势并不一定自动转化为所有生产推理任务中的绝对优势，模型与服务系统的联合优化可能改变单次 Token 的成本和效率。

但这并不意味着 CUDA 的护城河已经消失。英伟达在软件生态、开发工具、用户基础、部署经验以及训练市场中的优势，仍然是不同层面的问题；GLM-5.3-Flash 的上线无法单独回答这些问题。

GLM-5.3-Flash 的规格与性能定位

GLM-5.3-Flash 被报道为一款稀疏混合专家模型，总参数量为 3200 亿，每个 Token 实际激活约 180 亿参数。它支持 1,048,576 Token 上下文窗口，并具备原生多模态输入能力，可面向长文档、编程和长时间运行的智能体工作流。257

在 Artificial Analysis Intelligence Index 上，该模型据报道获得 57 分，与 Claude Opus 4.8 的报告分数相同。9这只能说明两者在这一综合指数上的分数相当，不能推导出它们在每项基准测试、具体应用或智能体任务中都表现一致。

低价，是它挑战行业巨头的另一张牌

智谱公布的 API 价格为：输入每百万 Token 0.15 美元，输出每百万 Token 0.50 美元。429

同期报道将其描述为 GLM-5.3 价格的大约十分之一，以及 Claude Opus 4.8 价格的大约四十分之一。不过，具体倍数会受到输入或输出方向、价格档位、上下文规格和套餐方案影响，因此应当视为近似比较，而不是统一标准下的精确比例。14

对开发者而言，GLM-5.3-Flash 的吸引力来自三者叠加：相对高效的稀疏模型结构、针对大规模服务的推理优化，以及激进的 API 定价。Ox Alpha 的匿名测试则证明，这套组合即使没有品牌背书，也能在全球开发者中快速获得大量真实使用。

它没有证明智谱已经解决了国产芯片和 AI 软件栈的所有限制，但确实展示了一个值得关注的方向：在推理时代，竞争力未必只取决于谁拥有最强的单颗芯片，也取决于谁能把模型、编译与推理软件、集群通信和商业价格整合成一套高效的服务系统。

智谱 AI（国际品牌为 Z.ai）于 2026 年 8 月 26 日揭开了匿名模型“Ox Alpha”的身份。这个在中文开发者社区被称为“牛来”的模型，实际上是 GLM 系列的新成员 GLM-5.3-Flash，一款开放权重、原生多模态的混合专家模型。115

这次揭晓同时带来了一个更受行业关注的基础设施信息：智谱表示，GLM-5.3-Flash 此前在 OpenRouter 和 OpenCode 上以匿名形式免费测试，5 天内处理的流量超过 50 万亿 Token；相关推理服务全部由超过 10 万张国产芯片组成的集群承载。815

匿名测试，变成了一场真实压力测试

Ox Alpha 上线时没有显示所属公司，也没有传统发布会式的品牌加持。开发者只能根据回答质量、响应速度、稳定性和可用性决定是否继续使用。模型很快登上 OpenRouter 和 OpenCode 的使用量榜首。13

后续报道显示，6 天内的总流量超过 60 万亿 Token；另有平台数据称，OpenRouter 上的使用量一度超过可比 DeepSeek 流量的两倍。由于不同报道采用的统计周期和平台口径并不一致，更稳妥的结论是：这次匿名试用在 5 天内突破了 50 万亿 Token，并吸引了异常庞大的开发者需求。1330

这点很关键。用户当时并不知道模型背后是智谱，也不知道它使用什么芯片。他们实际上是在用脚投票：如果模型不够快、不够稳或效果不佳，免费也未必能带来如此规模的调用。

十万张国产芯片，智谱究竟声称了什么

智谱表示，GLM-5.3-Flash 的在线推理负载运行在超过 10 万张中国制造的加速芯片上。通过软件和系统优化后，智谱称其硬件效率与单 Token 成本已经达到主流英伟达 GPU 的相近水平。1524

不过，智谱在目前公开材料中没有点名具体芯片供应商。行业报道曾提到华为、摩尔线程和海光可能参与其中，但这一说法尚未得到智谱正式确认，不能当作已核实的供应商名单。3040

这项声明需要准确理解。它并不等于：

• 国产芯片在所有 AI 工作负载上都已经达到英伟达水平；
• 国产硬件已经取代英伟达用于模型训练；或
• 两套生态在开发工具、软件兼容性和使用体验上完全等价。

更准确的解读是：当模型结构、推理引擎和硬件平台一起进行针对性优化时，大规模在线推理服务可以围绕非英伟达的国产硬件栈搭建。这是一个关于“系统协同设计”的案例，而不是对整个芯片产业竞争格局的最终裁决。

推理软件，可能比芯片型号更重要

GLM-5.3-Flash 支持最长 1,048,576 Token 的上下文窗口。对推理系统而言，这意味着更高的显存容量、内存带宽、芯片间通信和任务调度要求。智谱基于 SGLang 构建了专用推理引擎，并采用了多项优化技术，包括：1124

• W8A8 量化：降低计算和内存压力；
• INT8、FP8 与 BF16 混合缓存量化：在容量、速度和精度之间进行权衡；
• 节点内张量并行：将模型计算拆分到同一节点的多个加速器上；
• Encode–Prefill–Decode（EPD）分离架构：把多模态编码、提示词预填充和逐 Token 解码拆成可独立扩缩容的工作池。

这种拆分的好处在于，不同阶段可以按照各自的计算特征调度资源，而不必让整个服务被最慢或最占内存的环节牵制。智谱称，在同一批硬件上，这套方案让端到端服务性能较初始基线提升约 3 倍。2426

SGLang 后续文档还报告了相较 BF16 对照配置的额外吞吐提升，以及 FP8 缓存容量增加。不过，这些文档数据不能被视为对智谱最初“三倍提升”说法的独立审计。17

对英伟达 CUDA 优势意味着什么

这次事件对英伟达最直接的启示，集中在推理而非整个 AI 计算市场。

针对特定模型，量化、专用算子、并行策略和调度系统能够降低对 CUDA 的依赖。换句话说，英伟达的硬件优势并不一定自动转化为所有生产推理任务中的绝对优势，模型与服务系统的联合优化可能改变单次 Token 的成本和效率。

但这并不意味着 CUDA 的护城河已经消失。英伟达在软件生态、开发工具、用户基础、部署经验以及训练市场中的优势，仍然是不同层面的问题；GLM-5.3-Flash 的上线无法单独回答这些问题。

GLM-5.3-Flash 的规格与性能定位

GLM-5.3-Flash 被报道为一款稀疏混合专家模型，总参数量为 3200 亿，每个 Token 实际激活约 180 亿参数。它支持 1,048,576 Token 上下文窗口，并具备原生多模态输入能力，可面向长文档、编程和长时间运行的智能体工作流。257

在 Artificial Analysis Intelligence Index 上，该模型据报道获得 57 分，与 Claude Opus 4.8 的报告分数相同。9这只能说明两者在这一综合指数上的分数相当，不能推导出它们在每项基准测试、具体应用或智能体任务中都表现一致。

低价，是它挑战行业巨头的另一张牌

智谱公布的 API 价格为：输入每百万 Token 0.15 美元，输出每百万 Token 0.50 美元。429

同期报道将其描述为 GLM-5.3 价格的大约十分之一，以及 Claude Opus 4.8 价格的大约四十分之一。不过，具体倍数会受到输入或输出方向、价格档位、上下文规格和套餐方案影响，因此应当视为近似比较，而不是统一标准下的精确比例。14

对开发者而言，GLM-5.3-Flash 的吸引力来自三者叠加：相对高效的稀疏模型结构、针对大规模服务的推理优化，以及激进的 API 定价。Ox Alpha 的匿名测试则证明，这套组合即使没有品牌背书，也能在全球开发者中快速获得大量真实使用。

它没有证明智谱已经解决了国产芯片和 AI 软件栈的所有限制，但确实展示了一个值得关注的方向：在推理时代，竞争力未必只取决于谁拥有最强的单颗芯片，也取决于谁能把模型、编译与推理软件、集群通信和商业价格整合成一套高效的服务系统。