MNN-Pocket-0.3B Alibaba की Taobao MNN टीम का छोटा भाषा मॉडल है, जिसे मोबाइल ऐप्स में चीनी और अंग्रेज़ी निर्देशों का पालन करने के लिए तैयार किया गया है। टीम के मुताबिक, इसका INT4 MNN डिप्लॉयमेंट बिल्ड 173 MB का है और iPhone 18 Pro पर इसकी डिकोडिंग गति 350 टोकन प्रति सेकंड है। ये आंकड़े फोन पर सीधे AI चलाने की महत्वाकांक्षा को ठोस रूप देते हैं—लेकिन इनसे अकेले बैटरी की खपत, प्रीफिल गति या दूसरे फोन पर प्रदर्शन साबित नहीं होता।
16
34
MNN-Pocket-0.3B क्या है?
इस मॉडल में करीब 30 करोड़ पैरामीटर हैं। इसे मोबाइल ऐप्स के काम और संसाधन सीमाओं को ध्यान में रखकर बनाया गया है; टीम ने मॉडल की संरचना, ट्रेनिंग के तरीकों और MNN इन्फरेंस इंजन को साथ मिलकर डिज़ाइन किया। Alibaba के MNN README के अनुसार, यह चीनी और अंग्रेज़ी में निर्देशों का पालन करता है, 32K टोकन तक का कॉन्टेक्स्ट संभाल सकता है और Apache 2.0 लाइसेंस के तहत जारी किया गया है।
16
README में रिलीज़ की तारीख 4 नवंबर 2026 दी गई है। रिलीज़ पर खबर 6 नवंबर को प्रकाशित हुई थी—यानी बाद की तारीख खबर की है, README में दी गई रिलीज़ तारीख की नहीं।
9
16
173 MB आकार और स्पीड के आंकड़े क्या बताते हैं?
टीम के INT4 W4A16 क्वांटाइज़ेशन-अवेयर-ट्रेंड (QAT) MNN बिल्ड का आकार 173 MB बताया गया है। यह डिप्लॉयमेंट बिल्ड का आकार है; उपलब्ध जानकारी में यह नहीं बताया गया कि इसमें कौन-कौन सी फाइलें शामिल हैं या ऐप को चलाने के लिए जरूरी हर रनटाइम घटक भी इसी आंकड़े में गिने गए हैं या नहीं।
16
19
मॉडल कार्ड में M5 iPad Pro पर Metal के साथ डिकोडिंग गति 466 टोकन प्रति सेकंड तक बताई गई है। तकनीकी रिपोर्ट के सार में भी यही आंकड़ा दिया गया है। ये टीम की ओर से रिपोर्ट की गई डिकोडिंग दरें हैं—समान डिवाइस और सेटिंग्स पर किए गए स्वतंत्र तुलनात्मक परीक्षण नहीं।
19
34
| डिवाइस और रनटाइम |
रिपोर्ट की गई डिकोडिंग गति |
| iPhone 18 Pro, MNN |
350 टोकन/सेकंड 16 |
| M5 iPad Pro, Metal |
466 टोकन/सेकंड तक 19 34 |
टोकन प्रति सेकंड का आंकड़ा बताता है कि मॉडल जवाब बनाते समय कितनी तेजी से आउटपुट टोकन तैयार करता है। यह ऐप की पूरी प्रतिक्रिया-गति का पैमाना नहीं है। उपलब्ध स्रोतों में संबंधित प्रीफिल आंकड़े या दोनों डिवाइस के नतीजों की सीधी तुलना के लिए पर्याप्त परीक्षण-विवरण नहीं हैं।
मोबाइल की सीमाएं: क्या पता है, क्या नहीं?
मॉडल को मोबाइल ऐप्स के संसाधन बजट के हिसाब से बनाने की बात स्पष्ट रूप से कही गई है। छोटा INT4 बिल्ड और रिपोर्ट की गई डिकोडिंग दरें इस लक्ष्य के लिए अहम हैं, लेकिन वे ऐप में इसे चलाने की कुल लागत का पूरा हिसाब नहीं देतीं।
16
19
खास तौर पर, उपलब्ध स्रोत हर इन्फरेंस पर बैटरी खर्च, मानकीकृत पीक-मेमोरी माप या ऐप में जोड़ने की कुल अतिरिक्त लागत नहीं बताते। 173 MB के पैकेज आकार को रनटाइम में इस्तेमाल होने वाली कुल मेमोरी नहीं समझना चाहिए। दिए गए नतीजों से यह भी पता नहीं चलता कि अलग-अलग कामों या डिवाइस स्थितियों में गति कैसे बदलती है।
उपलब्ध मॉडल फॉर्मैट
Hugging Face मॉडल कार्ड taobao-mnn/MNN-Pocket-0.3B को सामान्य उपयोग के लिए निर्देश-ट्यून किया गया मॉडल बताता है। इसी परिवार में Base और SFT चेकपॉइंट भी सूचीबद्ध हैं।
19 अलग GGUF रिपॉज़िटरी में llama.cpp के अनुकूल रनटाइम के लिए F16, Q8_0 और Q4_1 एक्सपोर्ट दिए गए हैं; इनके बताए गए फ़ाइल आकार क्रमशः 726 MB, 387 MB और 192 MB हैं।
20
Taobao MNN के मॉडल संग्रह में MNN-Pocket-0.3B-DFlash2 रिपॉज़िटरी भी सूचीबद्ध है। उपलब्ध जानकारी इसके कॉन्फ़िगरेशन की पुष्टि नहीं करती और न ही किसी खास थ्रूपुट बढ़ोतरी को साबित करती है; इसलिए इसे किसी निश्चित स्पीड-अप का प्रमाण नहीं मानना चाहिए।
21
निचोड़
MNN-Pocket-0.3B की खासियत है कि करीब 30 करोड़ पैरामीटर वाले मॉडल का INT4 MNN बिल्ड 173 MB का बताया गया है, साथ ही iPhone 18 Pro और M5 iPad Pro पर तेज़ डिकोडिंग के दावे किए गए हैं। यह मोबाइल ऐप डेवलपर्स के लिए ऑन-डिवाइस मॉडल के रूप में इसकी स्थिति को मजबूत करता है। लेकिन उपलब्ध सबूत किसी खास बैटरी बचत या मेमोरी और इंटीग्रेशन लागत के पूरे हिसाब की पुष्टि नहीं करते।
16
19
34