AnswersPublished16 sources
Een AI-model van 173 MB voor op je telefoon: wat MNN-Pocket-0.3B belooft
MNN Pocket 0.3B is een taalmodel van ongeveer 300 miljoen parameters, ontworpen voor mobiele apps. Volgens de MNN README verscheen het model op 4 november 2026; een nieuwsbericht over de release volgde op 6 november.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- MNN Pocket 0.3B is een taalmodel van ongeveer 300 miljoen parameters, ontworpen voor mobiele apps.
- Volgens de MNN README verscheen het model op 4 november 2026; een nieuwsbericht over de release volgde op 6 november.
- De beschikbare bronnen geven geen uitsluitsel over batterijverbruik per gebruik, en bevatten geen vergelijkbare cijfers voor prefill en piekgeheugen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B is een compact taalmodel van Alibaba’s Taobao MNN-team, bedoeld voor instructies in het Chinees en Engels binnen mobiele apps. Het team meldt een INT4-versie van 173 MB en een decodeersnelheid van 350 tokens per seconde op de iPhone 18 Pro. Dat maakt de ambities voor AI op het toestel concreet, maar vertelt op zichzelf niets over het batterijverbruik, de snelheid bij het verwerken van een invoerprompt of prestaties op andere telefoons.16
34
Wat is MNN-Pocket-0.3B?
Het model telt ongeveer 300 miljoen parameters en is ontworpen voor taken en beperkte middelen van mobiele apps. Het team ontwikkelde de modelarchitectuur, trainingsmethoden en MNN-inference-engine met elkaar in samenhang. In de MNN-README staan ondersteuning voor instructies in het Chinees en Engels, een contextlengte tot 32.000 tokens en een Apache 2.0-licentie vermeld.16
De README noemt 4 november 2026 als releasedatum. Een nieuwsartikel over de release verscheen op 6 november; dat is dus de datum van het bericht, niet de releasedatum die in de README staat.9
16
Wat zeggen de gemelde grootte en snelheid?
De INT4-build, gemaakt met W4A16-quantization-aware training, is volgens het team 173 MB groot. Dit is de grootte van de deployment-build. De beschikbare informatie specificeert niet welke bestanden daarin zitten en maakt niet duidelijk of alle runtimecomponenten voor een app zijn inbegrepen.16
19
De modelkaart vermeldt een decodeersnelheid tot 466 tokens per seconde op een iPad Pro met M5-chip en Metal. Ook een samenvatting van het technische rapport noemt die snelheid. Het gaat om gerapporteerde decodeersnelheden, niet om onafhankelijke tests op apparaten die onder identieke omstandigheden zijn vergeleken.19
34
| Apparaat en runtime | Gemelde decodeersnelheid |
|---|---|
| iPhone 18 Pro, MNN | 350 tokens/s |
| iPad Pro met M5-chip, Metal | Tot 466 tokens/s |
Tokens per seconde meet hoe snel een model uitvoertokens genereert. Het is geen volledige maatstaf voor hoe vlot een app aanvoelt. De beschikbare bronnen geven geen bijbehorende prefillcijfers en bevatten niet genoeg testdetails om de twee apparaatmetingen rechtstreeks met elkaar te vergelijken.
Wat weten we over de beperkingen op een telefoon?
Het model is nadrukkelijk ontworpen met de middelen en taken van mobiele apps in gedachten. De kleine INT4-build en de gemelde decodeersnelheden zijn relevant voor dat doel, maar vormen geen volledig overzicht van de kosten om het model in een app te gebruiken.16
19
De bronnen geven bijvoorbeeld geen batterijverbruik per inferentie, geen gestandaardiseerde meting van het piekgeheugen en geen totaaloverzicht van de benodigde integratie. De bestandsgrootte van 173 MB mag daarom niet worden opgevat als het volledige geheugengebruik tijdens runtime. Ook laten de resultaten niet zien hoe de prestaties veranderen bij andere taken of onder andere apparaatcondities.
Welke versies zijn beschikbaar?
De Hugging Face-modelkaart noemt taobao-mnn/MNN-Pocket-0.3B de algemene, op instructies afgestemde versie. De modelreeks bevat ook Base- en SFT-checkpoints.19 Daarnaast biedt een aparte GGUF-repository exports voor runtimes die compatibel zijn met llama.cpp: F16 van 726 MB, Q8_0 van 387 MB en Q4_1 van 192 MB.
20
In de collectie van Taobao MNN staat ook een repository met de naam MNN-Pocket-0.3B-DFlash2. De beschikbare informatie bevestigt niet hoe die is geconfigureerd of dat er een bepaalde snelheidswinst mee wordt gehaald. De vermelding is dus geen bewijs voor een specifieke versnelling.21
De kern
MNN-Pocket-0.3B valt op doordat een model van circa 300 miljoen parameters volgens het team in een INT4 MNN-build van 173 MB past. Ook zijn de gemelde decodeersnelheden op de iPhone 18 Pro en de iPad Pro met M5-chip hoog. Dat ondersteunt de positionering als model voor gebruik op het toestel, maar bewijst op basis van de beschikbare gegevens geen specifiek batterijvoordeel of volledig overzicht van geheugen- en integratiekosten.16
19
34
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Een AI-model van 173 MB voor op je telefoon: wat MNN-Pocket-0.3B belooft"?
MNN Pocket 0.3B is een taalmodel van ongeveer 300 miljoen parameters, ontworpen voor mobiele apps.
What are the key points to validate first?
MNN Pocket 0.3B is een taalmodel van ongeveer 300 miljoen parameters, ontworpen voor mobiele apps. Volgens de MNN README verscheen het model op 4 november 2026; een nieuwsbericht over de release volgde op 6 november.
What should I do next in practice?
De beschikbare bronnen geven geen uitsluitsel over batterijverbruik per gebruik, en bevatten geen vergelijkbare cijfers voor prefill en piekgeheugen.