AnswersPublished16 sources
MNN-Pocket-0.3B: cosa sappiamo del modello AI di Alibaba per dispositivi mobili
MNN Pocket 0.3B è un modello da circa 300 milioni di parametri pensato per le app mobili: la versione MNN INT4 occupa 173 MB e il team dichiara 350 token/s in decodifica su iPhone 18 Pro. Il README di MNN indica il 4 novembre 2026 come data di rilascio; un articolo dedicato è stato pubblicato il 6 novembre.
Pubblicato daModificato con GPT-6 LunaImmagini generate con GPT Image 2
Research answer
Key takeaways
- MNN Pocket 0.3B è un modello da circa 300 milioni di parametri pensato per le app mobili: la versione MNN INT4 occupa 173 MB e il team dichiara 350 token/s in decodifica su iPhone 18 Pro.
- Il README di MNN indica il 4 novembre 2026 come data di rilascio; un articolo dedicato è stato pubblicato il 6 novembre.
- Le fonti disponibili non quantificano il consumo della batteria per inferenza e non offrono misure comparabili di prefill e memoria di picco.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B è un modello linguistico compatto del team Taobao MNN di Alibaba, progettato per seguire istruzioni in cinese e in inglese direttamente nelle app mobili. Il team indica una versione MNN INT4 da 173 MB e una velocità di decodifica di 350 token al secondo su iPhone 18 Pro. Sono dati che rendono concreta l’ambizione di portare l’AI sul dispositivo, ma da soli non chiariscono il consumo della batteria, la velocità di prefill o le prestazioni su altri telefoni.16
34
Che cos’è MNN-Pocket-0.3B
Il modello ha circa 300 milioni di parametri ed è stato progettato tenendo conto delle attività tipiche delle app mobili e dei loro limiti di risorse. Secondo il README di Alibaba, architettura, metodi di addestramento e motore d’inferenza MNN sono stati sviluppati in modo coordinato. Il modello supporta l’uso in cinese e inglese, una finestra di contesto fino a 32K token e una licenza Apache 2.0.16
Il README indica il 4 novembre 2026 come data di rilascio. L’articolo che ne ha dato notizia è del 6 novembre: questa è quindi la data della copertura giornalistica, non quella riportata nel README per il rilascio.9
16
Che cosa dicono i dati su dimensioni e velocità
La versione MNN INT4, con quantizzazione W4A16 e addestramento consapevole della quantizzazione (QAT), è indicata a 173 MB. Si tratta della dimensione della build di distribuzione: le informazioni disponibili non specificano nel dettaglio quali file comprenda né se includa tutti i componenti runtime necessari a un’app.16
19
La scheda del modello riporta fino a 466 token al secondo in decodifica su iPad Pro con chip M5 e backend Metal. La stessa cifra compare anche nella sintesi del rapporto tecnico. Sono valori dichiarati, non il risultato di un confronto indipendente effettuato con dispositivi e impostazioni identici.19
34
| Dispositivo e runtime | Velocità di decodifica dichiarata |
|---|---|
| iPhone 18 Pro, MNN | 350 token/s |
| iPad Pro M5, Metal | Fino a 466 token/s |
I token al secondo misurano la fase di decodifica, cioè la velocità con cui il modello genera il testo. Non sono una misura completa della reattività di un’app: le fonti non forniscono i corrispondenti dati di prefill né dettagli sufficienti per confrontare direttamente i risultati ottenuti sui due dispositivi.
I limiti delle informazioni disponibili
Il modello è stato progettato esplicitamente per rispettare i vincoli di risorse delle app mobili. Le dimensioni ridotte della build INT4 e le velocità di decodifica dichiarate sono pertinenti a questo obiettivo, ma non costituiscono un bilancio completo dei costi di distribuzione e funzionamento nell’app.16
19
In particolare, le fonti disponibili non indicano il consumo della batteria per singola inferenza, una misura standardizzata della memoria di picco o il sovraccarico totale d’integrazione nell’app. I 173 MB dichiarati non vanno quindi confusi con l’intera memoria necessaria durante l’esecuzione. I risultati citati, inoltre, non mostrano come cambino le prestazioni al variare del carico di lavoro o delle condizioni del dispositivo.
Formati disponibili
La scheda su Hugging Face identifica taobao-mnn/MNN-Pocket-0.3B come modello generale ottimizzato per seguire istruzioni e segnala checkpoint Base e SFT nella famiglia.19 Un repository GGUF separato offre esportazioni F16, Q8_0 e Q4_1 per runtime compatibili con llama.cpp, con dimensioni dichiarate rispettivamente di 726 MB, 387 MB e 192 MB.
20
Nella raccolta Taobao MNN compare anche il repository MNN-Pocket-0.3B-DFlash2. La scheda disponibile non ne descrive la configurazione né verifica un eventuale moltiplicatore di throughput: la sua presenza, quindi, non prova un incremento di velocità specifico.21
In breve
MNN-Pocket-0.3B si distingue per una build MNN INT4 dichiarata da 173 MB, a fronte di circa 300 milioni di parametri, e per le velocità di decodifica comunicate su iPhone 18 Pro e iPad Pro M5. Questi elementi sostengono il posizionamento del modello come soluzione on-device per chi sviluppa app; con le prove disponibili, però, non dimostrano un vantaggio preciso in termini di batteria né un quadro completo di memoria e costi d’integrazione.16
19
34
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "MNN-Pocket-0.3B: cosa sappiamo del modello AI di Alibaba per dispositivi mobili"?
MNN Pocket 0.3B è un modello da circa 300 milioni di parametri pensato per le app mobili: la versione MNN INT4 occupa 173 MB e il team dichiara 350 token/s in decodifica su iPhone 18 Pro.
What are the key points to validate first?
MNN Pocket 0.3B è un modello da circa 300 milioni di parametri pensato per le app mobili: la versione MNN INT4 occupa 173 MB e il team dichiara 350 token/s in decodifica su iPhone 18 Pro. Il README di MNN indica il 4 novembre 2026 come data di rilascio; un articolo dedicato è stato pubblicato il 6 novembre.
What should I do next in practice?
Le fonti disponibili non quantificano il consumo della batteria per inferenza e non offrono misure comparabili di prefill e memoria di picco.