AnswersPublished16 sources
Модель MNN-Pocket-0.3B вмістили у 173 МБ: що стоїть за заявами про швидкість
MNN Pocket 0.3B — модель приблизно на 300 млн параметрів для мобільних застосунків. У README MNN датою випуску вказано 4 листопада 2026 року; новина про модель вийшла 6 листопада.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- MNN Pocket 0.3B — модель приблизно на 300 млн параметрів для мобільних застосунків.
- У README MNN датою випуску вказано 4 листопада 2026 року; новина про модель вийшла 6 листопада.
- Доступні джерела не встановлюють витрати заряду на один запит і не містять зіставних вимірювань швидкості обробки запиту чи пікового використання пам’яті.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B — компактна мовна модель команди Taobao MNN від Alibaba, розрахована на виконання просто на мобільному пристрої. Вона підтримує інструкції китайською та англійською. Команда повідомляє, що INT4-збірка для MNN займає 173 МБ, а на iPhone 18 Pro декодування відбувається зі швидкістю 350 токенів за секунду. Ці цифри показують, на що націлена модель, але самі по собі не говорять про витрати батареї, швидкість обробки вхідного запиту чи роботу на інших телефонах.16
34
Що таке MNN-Pocket-0.3B
У моделі близько 300 мільйонів параметрів. Її розробляли з огляду на завдання та обмежені ресурси мобільних застосунків, спільно налаштовуючи архітектуру, методи навчання й рушій інференсу MNN — програмне забезпечення, яке запускає модель і виконує її обчислення. README Alibaba MNN зазначає підтримку інструкцій китайською й англійською мовами, контексту до 32 тисяч токенів і ліцензію Apache 2.0.16
У README датою випуску вказано 4 листопада 2026 року. Новина про модель з’явилася 6 листопада, тож це дата публікації матеріалу, а не дата випуску, наведена в README.9
16
Що показують заяви про розмір і швидкість
INT4-збірка MNN із квантизацією W4A16, навченою з урахуванням квантизації (QAT), має заявлений розмір 173 МБ. Це розмір збірки для розгортання моделі. У доступних матеріалах немає переліку її складників і не уточнено, чи включені до цього показника всі компоненти, потрібні застосунку.16
19
У картці моделі вказано швидкість декодування до 466 токенів за секунду на iPad Pro з чипом M5 при використанні Metal; цю ж цифру наводить короткий опис технічного звіту. Це заявлені показники, а не незалежне порівняння пристроїв за однакових умов.19
34
| Пристрій і середовище запуску | Заявлена швидкість декодування |
|---|---|
| iPhone 18 Pro, MNN | 350 токенів/с |
| iPad Pro з M5, Metal | до 466 токенів/с |
Токени за секунду показують, як швидко модель генерує відповідь — тобто декодує вихідні токени. Це не повна оцінка швидкодії застосунку: доступні джерела не наводять відповідних показників обробки вхідного запиту й не містять достатньо деталей, щоб напряму зіставити результати для двох пристроїв.
Що відомо про обмеження смартфонів — і чого бракує
Модель створювали з прицілом на обмеження мобільних застосунків. Невеликий розмір INT4-збірки та заявлена швидкість декодування стосуються цієї мети, але не дають повного уявлення про витрати на запуск моделі в застосунку.16
19
Зокрема, доступні матеріали не встановлюють, скільки заряду витрачається на один запит, і не наводять стандартизованого вимірювання пікового використання пам’яті чи загальних витрат на інтеграцію. Розмір пакета 173 МБ не варто ототожнювати з повним обсягом оперативної пам’яті, потрібним під час роботи. Наведені результати також не показують, як швидкість змінюється залежно від завдання чи умов роботи пристрою.
Доступні формати моделі
У картці Hugging Face taobao-mnn/MNN-Pocket-0.3B названа універсальною моделлю, налаштованою на виконання інструкцій. У родині також перелічені базова модель Base та контрольна точка SFT — модель після донавчання на прикладах.19
Окремий репозиторій GGUF містить версії F16, Q8_0 і Q4_1 для llama.cpp та сумісних середовищ запуску. Їхні заявлені розміри — відповідно 726, 387 і 192 МБ.20
У колекції Taobao MNN також є репозиторій MNN-Pocket-0.3B-DFlash2. Однак доступний опис не пояснює його конфігурацію і не підтверджує заявленого множника прискорення, тож робити висновок про конкретний приріст швидкості зарано.21
Головне
MNN-Pocket-0.3B вирізняється тим, що модель приблизно на 300 мільйонів параметрів представлена у збірці INT4 для MNN розміром 173 МБ. Команда також повідомляє про високу швидкість декодування на iPhone 18 Pro та iPad Pro з M5. Це узгоджується з позиціонуванням моделі для мобільних застосунків, але наявних даних недостатньо, щоб підтвердити конкретну економію батареї або повні витрати на пам’ять та інтеграцію.16
19
34
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Модель MNN-Pocket-0.3B вмістили у 173 МБ: що стоїть за заявами про швидкість"?
MNN Pocket 0.3B — модель приблизно на 300 млн параметрів для мобільних застосунків.
What are the key points to validate first?
MNN Pocket 0.3B — модель приблизно на 300 млн параметрів для мобільних застосунків. У README MNN датою випуску вказано 4 листопада 2026 року; новина про модель вийшла 6 листопада.
What should I do next in practice?
Доступні джерела не встановлюють витрати заряду на один запит і не містять зіставних вимірювань швидкості обробки запиту чи пікового використання пам’яті.