答案已發布16 來源
MNN-Pocket-0.3B：細到173MB，手機離線解碼聲稱每秒350個token
MNN Pocket 0.3B 是一款約3億參數、面向手機應用的中英文模型；團隊公布其 INT4 MNN 部署版本為173MB，並在 iPhone 18 Pro 測得每秒解碼350個token。 MNN 的 GitHub README 將發布日期列為2026年11月4日；相關新聞報道則於11月6日刊出。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案
重點
- MNN Pocket 0.3B 是一款約3億參數、面向手機應用的中英文模型；團隊公布其 INT4 MNN 部署版本為173MB，並在 iPhone 18 Pro 測得每秒解碼350個token。
- MNN 的 GitHub README 將發布日期列為2026年11月4日；相關新聞報道則於11月6日刊出。
- 現有資料未交代每次推論的耗電量，也欠缺可供直接比較的預填速度和峰值記憶體數據。
AI 提示
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
一款約3億參數的模型，部署版本只有173MB，團隊更稱在 iPhone 18 Pro 上每秒可解碼350個token——這是淘寶 MNN 團隊開源 MNN-Pocket-0.3B 時公布的亮眼數字。不過，解碼速度只是模型生成文字的一項指標，不能單憑它判斷手機上的整體體驗；現有資料亦未能說明電池消耗、預填速度，或其他手機上的表現。16
34
MNN-Pocket-0.3B 是甚麼？
MNN-Pocket-0.3B 是阿里巴巴淘寶 MNN 團隊為手機應用設計的語言模型，約有3億個參數，支援中英文指令跟隨。團隊表示，模型架構、訓練方法和 MNN 推理引擎是配合手機應用的任務需求和資源預算一併設計；模型支援最多32K token 的上下文，並以 Apache 2.0 授權開源。16
日期方面，阿里巴巴 MNN 的 README 列出發布日為2026年11月4日；11月6日是相關新聞報道的刊出日期，兩者不應混為一談。9
16
173MB 和「每秒350個token」代表甚麼？
團隊列出的 INT4（W4A16）量化感知訓練 MNN 部署版本，大小為173MB。這是部署版本的檔案大小；現有資料沒有逐項列明當中包含甚麼，也未說明是否包括應用實際執行所需的全部推理組件。16
19
速度方面，模型卡列出 M5 iPad Pro 使用 Metal 時，解碼速度最高可達每秒466個token；技術報告摘要亦提及這個數字。以下都是團隊公布的解碼數據，並非在相同裝置、相同設定下進行的獨立直接比較。19
34
| 裝置及執行環境 | 公布的解碼速度 |
|---|---|
| iPhone 18 Pro，MNN | 每秒350個token |
| M5 iPad Pro，Metal | 最高每秒466個token |
「每秒token數」描述的是解碼速度，即模型生成輸出文字的速度；它不等於使用者感受到的全部回應時間。現有來源沒有提供相應的預填速度，也缺少足夠測試細節，無法直接比較兩部裝置的結果。
手機上的資源成本，還有不少未知數
模型的設計目標之一，是配合手機應用的資源預算。173MB 的 INT4 部署版本和公布的解碼速度，的確與這個方向有關，但它們並未完整交代把模型放進應用後的總成本。16
19
例如，現有來源沒有列出每次推論的電池消耗、標準化的峰值記憶體數據，或應用整合所需的額外開支。因此，173MB 的檔案大小不應直接當成模型執行時的全部記憶體用量；目前的速度數字亦未說明模型在不同工作負載或裝置狀況下會如何表現。
另有甚麼模型版本？
Hugging Face 模型卡將 taobao-mnn/MNN-Pocket-0.3B 列為通用指令微調版本，並列出同系列的 Base 和 SFT 檢查點。19 另外，GGUF 儲存庫提供可供 llama.cpp 相容執行環境使用的 F16、Q8_0 和 Q4_1 版本，列出的檔案大小分別為726MB、387MB和192MB。
20
淘寶 MNN 的模型系列亦列有 MNN-Pocket-0.3B-DFlash2 儲存庫。不過，現有列表沒有交代其設定，也未能核實任何吞吐量提升幅度，因此不能據此斷言它會快多少。21
簡單總結
MNN-Pocket-0.3B 的看點，是約3億參數的模型配上公布為173MB的 INT4 MNN 部署版本，以及團隊在 iPhone 18 Pro 和 M5 iPad Pro 上公布的高解碼速度。這些資料支持它面向手機端應用開發的定位，但未足以證明它具體能省多少電，或完整交代執行時記憶體和整合成本。16
19
34
Studio Global AI
繼續你的研究
此頁麵包含一個有來源支援的答案，您可以在 Studio Global 內繼續。
人們還問
「MNN-Pocket-0.3B：細到173MB，手機離線解碼聲稱每秒350個token」的簡短答案是什麼？
MNN Pocket 0.3B 是一款約3億參數、面向手機應用的中英文模型；團隊公布其 INT4 MNN 部署版本為173MB，並在 iPhone 18 Pro 測得每秒解碼350個token。
首先要驗證的關鍵點是什麼？
MNN Pocket 0.3B 是一款約3億參數、面向手機應用的中英文模型；團隊公布其 INT4 MNN 部署版本為173MB，並在 iPhone 18 Pro 測得每秒解碼350個token。 MNN 的 GitHub README 將發布日期列為2026年11月4日；相關新聞報道則於11月6日刊出。
接下來在實務上我該做什麼？
現有資料未交代每次推論的耗電量，也欠缺可供直接比較的預填速度和峰值記憶體數據。