JawabanDipublikasikan16 sumber
MNN-Pocket-0.3B, model AI mungil untuk aplikasi ponsel: apa arti klaim kecepatannya?
MNN Pocket 0.3B adalah model bahasa sekitar 300 juta parameter untuk aplikasi seluler. README MNN mencatat tanggal rilis 4 November 2026, sementara berita tentang model ini terbit pada 6 November.[9][16] Sumber yang tersedia belum menunjukkan konsumsi baterai per inferensi atau ukuran prefill dan memori puncak yang...
Diterbitkan olehDiedit dengan GPT-6 LunaGambar dibuat dengan GPT Image 2
Jawaban penelitian
Poin-poin penting
- MNN Pocket 0.3B adalah model bahasa sekitar 300 juta parameter untuk aplikasi seluler.
- README MNN mencatat tanggal rilis 4 November 2026, sementara berita tentang model ini terbit pada 6 November.[9][16]
- Sumber yang tersedia belum menunjukkan konsumsi baterai per inferensi atau ukuran prefill dan memori puncak yang dapat dibandingkan secara memadai.
AI Perintah
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B adalah model bahasa ringkas dari tim Taobao MNN, bagian dari Alibaba, yang dirancang untuk menjalankan instruksi berbahasa Mandarin dan Inggris di aplikasi seluler. Tim tersebut melaporkan build MNN INT4 berukuran 173 MB dan kecepatan decoding 350 token per detik di iPhone 18 Pro. Angka-angka ini memberi gambaran tentang ambisi menjalankan AI langsung di perangkat, tetapi belum menjelaskan konsumsi baterai, kecepatan pemrosesan prompt, ataupun kinerja di berbagai ponsel.16
34
Apa itu MNN-Pocket-0.3B?
Model ini memiliki sekitar 300 juta parameter dan dirancang dengan mempertimbangkan tugas serta anggaran sumber daya aplikasi seluler. Tim MNN menyebut arsitektur model, metode pelatihan, dan mesin inferensi MNN dikembangkan secara terpadu untuk kebutuhan tersebut. README MNN mencatat dukungan instruksi berbahasa Mandarin dan Inggris, konteks hingga 32 ribu token, serta lisensi Apache 2.0.16
Ada perbedaan antara tanggal rilis dan tanggal pemberitaan: README MNN mencatat rilis pada 4 November 2026, sedangkan sebuah artikel berita tentang peluncurannya terbit pada 6 November.9
16
Apa makna angka ukuran dan kecepatannya?
Build MNN INT4 yang dilatih dengan pendekatan quantization-aware training (QAT), dengan format W4A16, tercatat berukuran 173 MB. Ini adalah ukuran build untuk deployment. Informasi yang tersedia tidak merinci isi paket atau memastikan apakah ukuran tersebut mencakup semua komponen runtime yang diperlukan aplikasi.16
19
Kartu model melaporkan kecepatan decoding hingga 466 token per detik di iPad Pro M5 yang menggunakan Metal. Ringkasan laporan teknis juga mencantumkan angka tersebut. Keduanya merupakan hasil yang dilaporkan, bukan perbandingan independen pada perangkat dan pengaturan pengujian yang sama.19
34
| Perangkat dan runtime | Kecepatan decoding yang dilaporkan |
|---|---|
| iPhone 18 Pro, MNN | 350 token/detik |
| iPad Pro M5, Metal | Hingga 466 token/detik |
Token per detik mengukur tahap decoding, yaitu seberapa cepat model menghasilkan token keluaran. Angka ini bukan ukuran lengkap respons aplikasi: sumber yang tersedia tidak memberikan angka prefill yang sepadan atau rincian pengujian yang cukup untuk membandingkan hasil kedua perangkat secara langsung.
Apa yang diketahui tentang batasan ponsel?
Model ini memang ditujukan untuk anggaran sumber daya aplikasi seluler. Build INT4 yang kecil dan klaim kecepatan decoding relevan dengan tujuan itu, tetapi belum merupakan perhitungan lengkap biaya menjalankannya di dalam aplikasi.16
19
Secara khusus, sumber yang tersedia tidak menetapkan konsumsi baterai per inferensi, pengukuran memori puncak dengan metode standar, atau total biaya integrasi aplikasi. Ukuran paket 173 MB juga tidak boleh dianggap sebagai keseluruhan kebutuhan memori saat model berjalan. Hasil yang dikutip pun belum menunjukkan bagaimana kinerjanya berubah menurut beban kerja atau kondisi perangkat.
Format model yang tersedia
Kartu model Hugging Face menyebut taobao-mnn/MNN-Pocket-0.3B sebagai model instruksi serbaguna, serta mencantumkan checkpoint Base dan SFT dalam keluarga model ini.19 Sementara itu, repositori GGUF terpisah menyediakan ekspor F16, Q8_0, dan Q4_1 untuk llama.cpp serta runtime yang kompatibel. Ukuran file yang tercantum masing-masing 726 MB, 387 MB, dan 192 MB.
20
Koleksi Taobao MNN juga mencantumkan repositori MNN-Pocket-0.3B-DFlash2. Namun, daftar yang tersedia tidak menjelaskan konfigurasinya atau memverifikasi klaim penggandaan throughput. Karena itu, keberadaan repositori tersebut belum cukup untuk menyimpulkan adanya peningkatan kecepatan tertentu.21
Intinya
Hal yang paling menonjol dari MNN-Pocket-0.3B adalah model berukuran sekitar 300 juta parameter ini memiliki build MNN INT4 yang dilaporkan sebesar 173 MB, disertai klaim kecepatan decoding tinggi di iPhone 18 Pro dan iPad Pro M5. Ini mendukung posisinya sebagai model on-device bagi pengembang aplikasi. Namun, berdasarkan bukti yang tersedia, angka tersebut belum membuktikan keunggulan baterai tertentu atau memberikan gambaran menyeluruh tentang kebutuhan memori dan integrasi.16
19
34
Studio Global AI
Lanjutkan penelitian Anda
Halaman ini berisi jawaban yang didukung sumber yang dapat Anda lanjutkan di dalam Studio Global.
Orang-orang juga bertanya
Apa jawaban singkat untuk "MNN-Pocket-0.3B, model AI mungil untuk aplikasi ponsel: apa arti klaim kecepatannya?"?
MNN Pocket 0.3B adalah model bahasa sekitar 300 juta parameter untuk aplikasi seluler.
Apa poin penting yang harus divalidasi terlebih dahulu?
MNN Pocket 0.3B adalah model bahasa sekitar 300 juta parameter untuk aplikasi seluler. README MNN mencatat tanggal rilis 4 November 2026, sementara berita tentang model ini terbit pada 6 November.[9][16]
Apa yang harus saya lakukan selanjutnya dalam latihan?
Sumber yang tersedia belum menunjukkan konsumsi baterai per inferensi atau ukuran prefill dan memori puncak yang dapat dibandingkan secara memadai.