它不是「縮小版通才」,而是瞄準本機代理工作
MiniCPM5-2B 是 OpenBMB 與 ModelBest 推出的緊湊型稠密語言模型,目標是裝置端與資源受限環境。它的實用定位很明確:協助寫程式、呼叫外部工具,以及執行 agentic(代理式)工作流,而不只是把一般知識模型縮小。
OpenBMB 的更新紀錄將其正式發布日期列為 2026 年 9 月 7 日;在此之前,模型已於 7 月 19 日的世界人工智慧大會(WAIC)亮相。
12
3
公開資料稱其共有 25.2 億個參數,而 OpenBMB 的模型集合頁面則標示 MiniCPM5 2B 具有 131K tokens 的上下文長度。
6
11
模型採用寬鬆的 Apache-2.0 授權。對希望將模型整合、微調並隨商業產品散布的團隊而言,這比限制較多的授權更具彈性,但仍須遵守授權條款。
3
隨發布資料附帶的設定描述其與 LlamaForCausalLM 相容,包含 42 個 decoder layers、grouped-query attention、16 個 query heads、2 個 key/value heads,且不含 embeddings 的參數量約為 19.8 億。不過,現有來源摘錄未完整驗證所有這些設定欄位;若要進行正式部署,仍應以所選 checkpoint 的 config.json 為準。
「34 項任務平均 53.9」該怎麼看?
OpenBMB 在自家比較表中表示,MiniCPM5-2B 在 34 項任務的平均分是 53.9。同一表格中,Qwen3.5-4B 為 51.1、granite-4.2-3B 為 42.7、LFM2.5-2.6B 為 33.2;官方也稱它高於該表中納入比較的所有較大模型。
7
對這個體積的模型而言,成績相當吸引人,但不能將其解讀為所有情境下的通用排名。53.9 是廠商發布的彙總分數,其意義取決於測試任務、提示詞、評測框架,以及各項結果的整合方式。它適合用於比較 OpenBMB 表格裡的指定模型與設定,並不能直接證明它在每一種用途上都勝過所有 4B 或更大的開放模型。
7
9
目前資料呈現出的能力輪廓如下:
- 官方指出其優勢集中在程式與數學推理、長文本、工具調用及多種代理任務。
7
- 第三方整理認為,它在 tool use、coding agents 與 NoLiMa 類型的長上下文檢索方面最具競爭力。
6
- 同一整理也指出,它在 MMLU-Pro、GPQA-Diamond 與 MATH-500 的表現相對較低;若產品核心需求是廣泛的一般知識,就不該只看平均分數做選擇。
6
OpenBMB 另稱,它以 23 分登上 Artificial Analysis Intelligence Index 中、4B 以下開放原始碼模型的第一名。這是特定時間點、特定排行榜的公司主張,不代表永久或全面性的評價。
15
本機部署有哪些權重與格式?
這次開放權重發布不只提供單一最終 checkpoint,還包含 Base 與 SFT 版本,以及 BF16、GGUF、MLX、GPTQ 等量化格式。
3 OpenBMB 也發布了 FlagOS 相關版本,包括 ARM W8A8 變體,讓 ARM 與邊緣裝置多了一種部署選項。
1
2
伺服器部署方面,官方 Hugging Face 討論頁提供了以 SGLang 啟動 openbmb/MiniCPM5-2B 的示例。
8 至於在個人電腦或其他裝置上本機執行,通常會以量化版本為主;應選擇哪種 runtime,則取決於權重格式與硬體平台。
手機與筆電真的跑得動嗎?
對短到中等長度的提示詞而言,25.2 億參數的稠密模型,尤其是量化後的版本,確實比數百億參數模型更適合本機運行。因此,若產品重視資料不離開裝置、降低雲端成本與縮短回應延遲,它會是一個值得考慮的選擇。
不過,支援 131K tokens 上下文,不等於每台設備都能輕鬆處理完整的 131K 對話。隨著提示詞變長,KV cache 的記憶體用量也會增加;「可支援長上下文」與「能在手機或一般筆電上舒適跑滿長上下文」是兩回事。
11
哪些情境適合選它?
MiniCPM5-2B 比較適合以下需求:
- 本機或邊緣端的程式設計輔助;
- 需要 tool calling 的自動化流程與代理管線;
- 希望隨產品散布量化模型;
- 成本、延遲與隱私比極限通用能力更重要的應用。
若應用需要穩定而廣泛的一般知識,或必須在高難度、非程式設計導向的基準上取得更強表現,較大型模型依然是合理的比較對象。MiniCPM5-2B 最有說服力的地方,不是宣稱自己無所不能,而是在小型、開放且授權友善的前提下,為工具使用與裝置端工作流提供了具吸引力的效能組合。
6
7