AnswersPublished16 sources
MNN-Pocket-0.3B: model AI kecil Alibaba untuk dijalankan terus pada telefon
MNN Pocket 0.3B mempunyai kira kira 300 juta parameter dan dibangunkan untuk aplikasi mudah alih. README MNN menyatakan model ini dikeluarkan pada 4 November 2026; laporan berita mengenainya diterbitkan pada 6 November.
Diterbitkan olehDisunting dengan GPT-6 LunaImej dijana dengan GPT Image 2
Research answer
Key takeaways
- MNN Pocket 0.3B mempunyai kira kira 300 juta parameter dan dibangunkan untuk aplikasi mudah alih.
- README MNN menyatakan model ini dikeluarkan pada 4 November 2026; laporan berita mengenainya diterbitkan pada 6 November.
- Sumber yang tersedia tidak menetapkan penggunaan bateri bagi setiap inferens atau memberikan ukuran prapemprosesan dan memori puncak yang boleh dibandingkan.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B ialah model bahasa ringkas daripada pasukan Taobao MNN, dibina untuk memahami arahan dalam bahasa Cina dan Inggeris di aplikasi mudah alih. Pasukan itu melaporkan binaan penggunaan INT4 bersaiz 173 MB dan kelajuan nyahkod 350 token sesaat pada iPhone 18 Pro. Angka ini menunjukkan sasaran model untuk dijalankan terus pada peranti, tetapi belum membuktikan penggunaan baterinya, kelajuan prapemprosesan atau prestasinya pada telefon lain.16
34
Apa itu MNN-Pocket-0.3B?
Model ini mempunyai kira-kira 300 juta parameter dan direka dengan mengambil kira tugasan serta had sumber aplikasi mudah alih. Pasukan MNN membangunkan seni bina model, kaedah latihan dan enjin inferens MNN secara bersama. README Alibaba menyatakan bahawa model ini menyokong arahan dalam bahasa Cina dan Inggeris, konteks sehingga 32K token serta lesen Apache 2.0.16
README itu mencatatkan tarikh keluaran sebagai 4 November 2026. Laporan berita mengenainya diterbitkan pada 6 November, jadi tarikh tersebut ialah tarikh laporan—bukan tarikh keluaran yang dinyatakan dalam README.9
16
Apakah maksud angka saiz dan kelajuan itu?
Binaan MNN dengan kuantisasi INT4 W4A16 yang dilatih secara sedar-kuantisasi (QAT) disenaraikan pada saiz 173 MB. Ini merujuk kepada saiz binaan untuk penggunaan. Maklumat yang diberikan tidak menyenaraikan kandungan failnya satu demi satu atau menjelaskan sama ada angka itu merangkumi semua komponen masa jalan yang diperlukan oleh aplikasi.16
19
Kad model melaporkan kelajuan nyahkod sehingga 466 token sesaat pada iPad Pro M5 menggunakan Metal. Ringkasan laporan teknikal turut menyatakan angka tersebut. Ini ialah kadar nyahkod yang dilaporkan, bukannya perbandingan bebas pada peranti dan tetapan ujian yang seragam.19
34
| Peranti dan sistem masa jalan | Kelajuan nyahkod yang dilaporkan |
|---|---|
| iPhone 18 Pro, MNN | 350 token/s |
| iPad Pro M5, Metal | Sehingga 466 token/s |
Token sesaat mengukur kadar model menjana token output semasa proses nyahkod. Ia bukan ukuran lengkap tentang kepantasan sesuatu aplikasi bertindak balas. Sumber yang tersedia tidak memberikan angka prapemprosesan yang sepadan atau butiran ujian yang cukup untuk membandingkan keputusan bagi kedua-dua peranti itu secara langsung.
Apa yang sudah diketahui tentang batasan telefon?
Model ini memang disasarkan untuk memenuhi bajet sumber aplikasi mudah alih. Binaan INT4 yang kecil dan kadar nyahkod yang dilaporkan berkaitan dengan matlamat itu, tetapi belum memberikan gambaran penuh tentang kos penggunaan dalam aplikasi.16
19
Secara khusus, sumber yang tersedia tidak menetapkan penggunaan bateri bagi setiap inferens, ukuran memori puncak yang piawai atau jumlah beban tambahan untuk menyepadukan model ke dalam aplikasi. Saiz pakej yang dilaporkan juga tidak boleh dianggap sebagai jumlah penggunaan memori model ketika berjalan. Keputusan yang dirujuk tidak menunjukkan bagaimana prestasi berubah mengikut beban kerja atau keadaan peranti.
Format model yang tersedia
Kad model Hugging Face menyenaraikan taobao-mnn/MNN-Pocket-0.3B sebagai model umum yang ditala untuk mengikut arahan, selain checkpoint Base dan SFT dalam keluarga model ini.19 Repositori GGUF berasingan menawarkan eksport F16, Q8_0 dan Q4_1 untuk llama.cpp serta sistem masa jalan yang serasi. Saiz failnya masing-masing ialah 726 MB, 387 MB dan 192 MB.
20
Koleksi Taobao MNN turut menyenaraikan repositori MNN-Pocket-0.3B-DFlash2. Namun, maklumat yang tersedia tidak mengesahkan konfigurasinya atau dakwaan gandaan kelajuan. Oleh itu, senarai tersebut bukan bukti bahawa model berkenaan mencapai peningkatan kelajuan tertentu.21
Kesimpulannya
MNN-Pocket-0.3B menarik perhatian kerana model sekitar 300 juta parameter ini mempunyai binaan MNN INT4 yang dilaporkan bersaiz 173 MB, selain dakwaan kelajuan nyahkod yang tinggi pada iPhone 18 Pro dan iPad Pro M5. Ini menyokong kedudukannya sebagai model pada peranti untuk pembangun aplikasi. Namun, berdasarkan bukti yang tersedia, ia belum membuktikan kelebihan bateri tertentu atau memberikan kiraan lengkap penggunaan memori dan kos penyepaduan.16
19
34
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "MNN-Pocket-0.3B: model AI kecil Alibaba untuk dijalankan terus pada telefon"?
MNN Pocket 0.3B mempunyai kira kira 300 juta parameter dan dibangunkan untuk aplikasi mudah alih.
What are the key points to validate first?
MNN Pocket 0.3B mempunyai kira kira 300 juta parameter dan dibangunkan untuk aplikasi mudah alih. README MNN menyatakan model ini dikeluarkan pada 4 November 2026; laporan berita mengenainya diterbitkan pada 6 November.
What should I do next in practice?
Sumber yang tersedia tidak menetapkan penggunaan bateri bagi setiap inferens atau memberikan ukuran prapemprosesan dan memori puncak yang boleh dibandingkan.