2026 年 8 月 26 日,智譜 AI(Z.ai)終於揭開神秘模型「Ox Alpha」的身份。這個在中文社群被稱為「牛來」的匿名模型,原來就是智譜即將推出的 GLM-5.3-Flash——一款開放權重、原生多模態的混合專家(Mixture of Experts,MoE)模型。智譜此前先以匿名方式讓模型接受真實用戶測試,再正式公布產品資料。
1
4
6
「牛來」測試有幾誇張?
模型在 OpenRouter——一個聚合不同 AI 模型 API 的平台——以及面向程式開發者的 OpenCode 上免費匿名開放後,短時間內吸引大量全球流量。
- 有報道指,模型在 5 日內處理超過 50 萬億 tokens,之後 6 日累計超過 60 萬億 tokens;期間登上兩個平台的用量榜首。
3
- 其高峰用量據報一度超過同類 DeepSeek 模型兩倍以上。
3
- 智譜表示,這批服務流量全部由一個超過 10 萬枚中國製 AI 晶片組成的集群承接。
3
6
這個測試的重點,不只是模型突然爆紅,而是它在沒有 Nvidia GPU 的情況下,能否承受真實而且高度波動的全球開發者流量。
超過 10 萬枚國產晶片,代表甚麼?
智譜聲稱,經過軟件及系統層面的優化後,這套國產晶片方案的硬件效率及每 token 成本,已經可以與主流 Nvidia GPU 相若。
3
6
不過,這個說法不能直接解讀為「中國國產晶片整體已經追平 Nvidia」,亦不代表所有國產晶片在任何 AI 推理工作上的成本都一樣。較準確的理解是:在一個特定模型、特定推理引擎及特定服務架構下,透過大量系統工程,國產硬件可以承受大規模實際推理工作。
3
6
至於具體使用了哪些晶片,智譜並未正式點名。外界曾報道華為、摩爾線程及海光可能是供應商,但目前仍屬未經智譜確認的推測,不能當成已證實資料。
40
點解會牽涉 Nvidia 的 CUDA 優勢?
這次事件顯示,對部分生產環境的 AI 推理工作而言,模型專用的軟件堆疊及推理引擎,或許可以降低對 CUDA 的依賴。CUDA 是 Nvidia 長期建立的 GPU 軟件平台,涵蓋開發工具、函式庫、開發者社群及大量既有應用。
但這並不代表 CUDA 的生態優勢已經消失,更不足以推論國產方案在模型訓練、所有推理任務或整個 AI 軟件生態上都已經取代 Nvidia。現有證據主要集中在 GLM-5.3-Flash 這個模型及其服務部署,結論需要保持克制。
智譜如何處理 100 萬 token 長上下文?
據報,智譜以 SGLang 為基礎打造專用推理引擎,並採用多項針對記憶體、頻寬、通訊及調度的優化技術,包括:
- W8A8 量化;
- INT8、FP8 及 BF16 混合 cache 量化;
- 節點內 tensor parallelism(張量平行處理);
- Encode–Prefill–Decode(EPD)拆分,將編碼、預填充及解碼工作分成可以獨立擴展的資源池。
4
7
這些設計主要是為了應付模型最高 1,048,576 tokens 的上下文長度。上下文越長,模型對顯存、記憶體頻寬及多卡之間通訊的要求就越高。
智譜據報表示,相關改動令端到端服務效能較最初基線提升約 3 倍。其後 SGLang 文件亦展示了較高吞吐量,以及 FP8 cache 相比 BF16 配置有明顯更高的容量;不過,這份文件並不是對智譜「提升 3 倍」說法的獨立審計。
2
GLM-5.3-Flash 本身有甚麼規格?
GLM-5.3-Flash 是一款大型稀疏混合專家模型:
- 總參數量:3200 億;
- 每個 token 實際啟用參數:約 180 億;
- 上下文窗口:1,048,576 tokens;
- 支援原生多模態輸入,包括文字、圖片、影片及檔案。
5
7
它的設計理念,是用較大的總模型容量保留能力,同時只在處理每個 token 時啟用部分參數,從而降低推理時的計算量。
表現與收費:主打「前沿級」性價比
GLM-5.3-Flash 據報在 Artificial Analysis Intelligence Index 取得 57 分,與 Claude Opus 4.8 的報告分數相同。
1
但這只代表兩者在該綜合指標上的分數相若,並不等於在每一項基準測試、實際代理任務或日常使用情境都有相同表現。至於它與 DeepSeek V4 Flash 及 Pro 的逐項比較,現有資料亦不足以完整核實。
智譜公布的 API 價格為:
- 每 100 萬個輸入 tokens:0.15 美元;
- 每 100 萬個輸出 tokens:0.50 美元。
1
當時報道形容,這個價格約為 GLM-5.3 原價的十分之一,以及 Claude Opus 4.8 的四十分之一。不過,實際倍數會受輸入或輸出方向、上下文長度級別及所比較的收費計劃影響,因此不宜視為所有情況下的固定比例。
1
一次重要但仍有限度的示範
「牛來」事件最值得留意的地方,是智譜把一個新模型先放入真實市場環境,在匿名狀態下接受大規模測試,然後才公開身份。結果不但證明 GLM-5.3-Flash 能吸引大量開發者使用,也展示了特定模型配合專用軟件及國產硬件後,處理大規模推理流量的可能性。
但這仍然是一個針對單一模型及單一部署方案的成功案例。它足以令業界重新評估 AI 推理對硬件及 CUDA 的依賴,卻未足以證明國產晶片已在整個 AI 產業鏈全面追上 Nvidia。