AnswersPublished16 sources
Hva MNN-Pocket-0.3B er – og hva fartstallene faktisk forteller
MNN Pocket 0.3B er en språkmodell på rundt 300 millioner parametere laget for mobilapper. MNNs README oppgir 4. november 2026 som lanseringsdato.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- MNN Pocket 0.3B er en språkmodell på rundt 300 millioner parametere laget for mobilapper.
- MNNs README oppgir 4. november 2026 som lanseringsdato.
- Kildene dokumenterer ikke batteribruk per forespørsel, og gir heller ikke sammenlignbare tall for forhåndsbehandling av tekst eller topp minnebruk.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B er en kompakt språkmodell fra Taobao MNN-teamet i Alibaba, utviklet for instruksjonsoppgaver på kinesisk og engelsk i mobilapper. Teamet oppgir at en INT4-versjon for MNN tar 173 MB, og at modellen dekoder 350 tokener i sekundet på iPhone 18 Pro. Det gjør ambisjonen om KI som kjører direkte på mobilen konkret – men tallene forteller ikke i seg selv hvor mye batteri modellen bruker, hvor raskt den behandler en innledende tekst, eller hvordan den yter på andre telefoner.16
34
En modell laget med mobilapper i tankene
Modellen har rundt 300 millioner parametere. Ifølge MNNs README er arkitekturen, treningsmetodene og MNN-motoren utviklet sammen med tanke på oppgavene og ressursgrensene i mobilapper. Den støtter instruksjoner på kinesisk og engelsk og en kontekst på opptil 32 000 tokener.16
README-en oppgir 4. november 2026 som lanseringsdato. Nyhetsartikkelen om modellen kom 6. november; den datoen er altså publiseringsdatoen for omtalen, ikke lanseringsdatoen oppgitt i README-en.9
16
Hva betyr 173 MB og 350 tokener i sekundet?
Teamet oppgir at den kvantiseringsbevisst trente INT4-versjonen, med formatet W4A16, tar 173 MB. Dette er størrelsen på en distribusjonsversjon. Kildene spesifiserer ikke hvilke filer størrelsen omfatter, eller om alle komponentene en app trenger for å kjøre modellen er inkludert.16
19
Modellkortet oppgir opptil 466 tokener i sekundet ved dekoding på en iPad Pro med M5-brikke og Metal. En oppsummering av den tekniske rapporten oppgir det samme tallet. Dette er rapporterte hastigheter, ikke uavhengige målinger utført under identiske forhold.19
34
| Enhet og kjøremiljø | Rapportert dekodingshastighet |
|---|---|
| iPhone 18 Pro, MNN | 350 tokener/s |
| iPad Pro med M5, Metal | Opptil 466 tokener/s |
Dekoding er fasen der modellen genererer svar, og tokener per sekund måler hvor raskt dette skjer. Det er ikke det samme som hvor raskt en app føles fra brukerens perspektiv: Kildene gir ikke tilsvarende tall for forhåndsbehandling av teksten som sendes inn, og testdetaljene er ikke tilstrekkelige til å sammenligne resultatene direkte.
Fartstall er ikke hele regnestykket
Modellen er uttrykkelig utviklet for å passe inn i ressursrammene til mobilapper. En liten INT4-versjon og de rapporterte dekodingshastighetene er relevante for dette målet, men gir ikke et fullstendig bilde av hva det koster å bruke modellen i en app.16
19
Kildene dokumenterer for eksempel ikke batteribruk per forespørsel eller en standardisert måling av maksimalt minneforbruk. De oppgir heller ikke samlet integrasjonskostnad for en app. Størrelsen på modellpakken bør derfor ikke forveksles med hvor mye minne modellen bruker mens den kjører. Resultatene viser heller ikke hvordan ytelsen varierer med ulike oppgaver eller forhold på enheten.
Flere modellformater
Modellkortet på Hugging Face beskriver taobao-mnn/MNN-Pocket-0.3B som familiens generelle, instruksjonstilpassede modell. Det lister også Base- og SFT-versjoner – henholdsvis en grunnmodell for videre tilpasning og en modell som er trent videre med veiledede eksempler.19
En separat GGUF-utgave finnes for llama.cpp og kompatible kjøremiljøer. Den er oppgitt i formatene F16, Q8_0 og Q4_1, med filstørrelser på henholdsvis 726 MB, 387 MB og 192 MB.20
Taobao MNNs modelloversikt lister også en egen MNN-Pocket-0.3B-DFlash2-modell. Oppføringen alene bekrefter imidlertid ikke konfigurasjonen eller noen bestemt økning i hastighet.21
Kort oppsummert
MNN-Pocket-0.3B skiller seg ut ved å kombinere rundt 300 millioner parametere med en rapportert INT4-versjon på 173 MB. Teamet oppgir dessuten høye dekodingshastigheter på både iPhone 18 Pro og iPad Pro med M5. Det underbygger satsingen på en modell for mobilapper, men dokumenterer ikke i seg selv lavere batteribruk eller det samlede minne- og integrasjonsbehovet.16
19
34
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Hva MNN-Pocket-0.3B er – og hva fartstallene faktisk forteller"?
MNN Pocket 0.3B er en språkmodell på rundt 300 millioner parametere laget for mobilapper.
What are the key points to validate first?
MNN Pocket 0.3B er en språkmodell på rundt 300 millioner parametere laget for mobilapper. MNNs README oppgir 4. november 2026 som lanseringsdato.
What should I do next in practice?
Kildene dokumenterer ikke batteribruk per forespørsel, og gir heller ikke sammenlignbare tall for forhåndsbehandling av tekst eller topp minnebruk.