答案已發布16 個來源
MNN-Pocket-0.3B：小模型上手機，速度數字能說明什麼？
MNN Pocket 0.3B 約有 3 億個參數，為行動 App 設計；團隊公布的 INT4 MNN 部署版本為 173 MB，並稱在 iPhone 18 Pro 上達到每秒 350 tokens 解碼速度。 MNN README 將發布日期列為 2026 年 11 月 4 日；11 月 6 日則是相關新聞報導日期。
發布者使用 GPT-6 Luna 編輯圖片由 GPT Image 2 生成
研究答案
重點整理
- MNN Pocket 0.3B 約有 3 億個參數，為行動 App 設計；團隊公布的 INT4 MNN 部署版本為 173 MB，並稱在 iPhone 18 Pro 上達到每秒 350 tokens 解碼速度。
- MNN README 將發布日期列為 2026 年 11 月 4 日；11 月 6 日則是相關新聞報導日期。
- 現有資料未提供單次推論耗電量，也缺少可直接比較的提示詞預填速度與峰值記憶體數據。
AI 提示詞
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
約 3 億參數的語言模型，要在手機 App 裡離線運作，除了模型本身要小，推論速度和資源占用也得顧到。阿里巴巴淘寶 MNN 團隊推出的 MNN-Pocket-0.3B，正是以行動 App 的任務需求與資源限制為設計出發點。團隊公布的 INT4 MNN 部署版本為 173 MB，並稱在 iPhone 18 Pro 上的解碼速度達每秒 350 tokens。16
這些數字讓模型的手機端定位更具體，但還不能回答另一個實際問題：放進 App 後，耗電、啟動延遲和記憶體占用究竟如何？現有資料沒有完整交代這些成本，也不能只憑解碼速度判斷 App 整體反應有多快。16
34
MNN-Pocket-0.3B 是什麼？
MNN-Pocket-0.3B 是淘寶 MNN 團隊開發的輕量語言模型，支援中英文指令互動，並支援最高 32K tokens 的上下文。團隊表示，他們將模型架構、訓練方法和 MNN 推論引擎一併考量，按手機 App 的任務需求與資源預算進行設計。專案採 Apache 2.0 授權開源。16
發布日期也有一個容易混淆之處：MNN README 標示的發布日是 2026 年 11 月 4 日；11 月 6 日是新聞報導刊出的日期，不應直接當成 README 所列的發布日。9
16
173 MB 與每秒數百 tokens，代表什麼？
團隊列出的 173 MB，是採用 INT4、W4A16 量化感知訓練（QAT）的 MNN 部署版本大小。現有資料沒有逐項列出部署包包含哪些檔案，也沒有說明這個數字是否涵蓋 App 需要的所有執行時元件，因此不宜直接視為完整的 App 整合體積。16
19
至於速度，來源公布了不同裝置與執行環境下的解碼數字：
| 裝置與執行環境 | 公布的解碼速度 |
|---|---|
| iPhone 18 Pro，MNN | 每秒 350 tokens |
| M5 iPad Pro，Metal | 最高每秒 466 tokens |
「每秒 tokens」衡量的是解碼速度，也就是模型生成輸出內容的速率；它不是 App 完整回應時間的同義詞。現有資料沒有提供相應的提示詞預填（prefill）數據，也缺少足夠的測試條件，無法把兩台裝置的結果當成同條件比較。19
34
小模型不等於完整的手機部署成本
小型 INT4 部署版本與高速解碼結果，支持 MNN-Pocket-0.3B 面向行動裝置的定位；但這些資訊尚不足以完整評估實際部署成本。16
19
目前來源沒有列出單次推論的耗電數據、標準化的峰值記憶體測量，或 App 整合所需的額外開銷。173 MB 是部署版本的檔案大小，不應直接解讀為模型執行時所需的全部記憶體；現有測試也未說明速度在不同工作負載或裝置條件下會如何變化。
其他可用格式
Hugging Face 模型卡將 taobao-mnn/MNN-Pocket-0.3B 列為通用指令微調模型，並列出 Base 與 SFT 檢查點。19 另有 GGUF 版本可供 llama.cpp 相容執行環境使用，提供 F16、Q8_0 和 Q4_1 匯出檔，列出的檔案大小分別為 726 MB、387 MB 和 192 MB。
20
淘寶 MNN 的模型集合也列有 MNN-Pocket-0.3B-DFlash2。不過，現有頁面資訊不足以確認其具體設定或驗證任何吞吐量提升幅度，因此不能據此推定它能帶來特定的加速效果。21
重點整理
MNN-Pocket-0.3B 的看點，是將約 3 億參數模型做成公布大小為 173 MB 的 INT4 MNN 部署版本，並在 iPhone 18 Pro 與 M5 iPad Pro 上公布相當高的解碼速度。這些數據呈現了它作為行動 App 端模型的設計方向；至於實際耗電、完整記憶體需求與整合成本，現有證據仍不足以定論。16
19
34
Studio Global AI
繼續深入研究
這個頁面包含附來源佐證的答案，你可以在 Studio Global 內繼續追問。
大家也會問
「MNN-Pocket-0.3B：小模型上手機，速度數字能說明什麼？」的簡短答案是什麼？
MNN Pocket 0.3B 約有 3 億個參數，為行動 App 設計；團隊公布的 INT4 MNN 部署版本為 173 MB，並稱在 iPhone 18 Pro 上達到每秒 350 tokens 解碼速度。
最值得優先驗證的重點是什麼？
MNN Pocket 0.3B 約有 3 億個參數，為行動 App 設計；團隊公布的 INT4 MNN 部署版本為 173 MB，並稱在 iPhone 18 Pro 上達到每秒 350 tokens 解碼速度。 MNN README 將發布日期列為 2026 年 11 月 4 日；11 月 6 日則是相關新聞報導日期。
接下來在實務上該怎麼做？
現有資料未提供單次推論耗電量，也缺少可直接比較的提示詞預填速度與峰值記憶體數據。