RespuestasPublicado16 fuentes
Qué es MNN-Pocket-0.3B y qué revelan sus cifras de velocidad
MNN Pocket 0.3B tiene unos 300 millones de parámetros y está diseñado para apps móviles. El README de MNN sitúa el lanzamiento el 4 de noviembre de 2026; la noticia sobre el modelo se publicó el 6 de noviembre.
Publicado porEditado con GPT-6 LunaImágenes generadas con GPT Image 2
Respuesta de investigación
Conclusiones clave
- MNN Pocket 0.3B tiene unos 300 millones de parámetros y está diseñado para apps móviles.
- El README de MNN sitúa el lanzamiento el 4 de noviembre de 2026; la noticia sobre el modelo se publicó el 6 de noviembre.
- Las fuentes disponibles no detallan el consumo de batería por inferencia ni aportan cifras comparables de prefill y memoria máxima.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Alibaba’s Taobao MNN team’s MNN-Pocket-0.3B, reported open-sourced on November 6, 2026, and how does this roughly 300-million-parame. Article summary: MNN-Pocket-0.3B is Taobao’s approximately 300-million-parameter language-model family, co-designed with the MNN inference engine for on-device use; its main Hugging Face model is instruction-tuned, and its INT4 deploymen. Topic tags: general, general web, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake num
MNN-Pocket-0.3B es un modelo de lenguaje compacto del equipo Taobao MNN de Alibaba. Está pensado para seguir instrucciones en chino e inglés desde aplicaciones móviles. El equipo informa de una versión de despliegue MNN INT4 de 173 MB y una velocidad de decodificación de 350 tokens por segundo en el iPhone 18 Pro. Son cifras que concretan su apuesta por la IA en el dispositivo, pero no permiten determinar por sí solas cuánto consume de batería, cuál es su velocidad de prefill o cómo rinde en otros teléfonos.16
34
Qué es MNN-Pocket-0.3B
El modelo tiene alrededor de 300 millones de parámetros y se diseñó pensando en las tareas y los recursos de las aplicaciones móviles. Según Alibaba, el equipo trabajó de forma conjunta en la arquitectura del modelo, los métodos de entrenamiento y el motor de inferencia MNN. El README de MNN menciona compatibilidad con instrucciones en chino e inglés, una ventana de contexto de hasta 32.000 tokens y una licencia Apache 2.0.16
El README fecha el lanzamiento el 4 de noviembre de 2026. La noticia sobre su publicación apareció el 6 de noviembre: esa es la fecha del artículo, no la que indica el README para el lanzamiento.9
16
Qué significan las cifras de tamaño y velocidad
La versión MNN INT4, entrenada con conocimiento de cuantización W4A16, ocupa 173 MB. Se trata del tamaño indicado para esa versión de despliegue. La información disponible no desglosa qué archivos incluye ni aclara si contempla todos los componentes de ejecución que necesitaría una aplicación.16
19
La ficha del modelo informa de hasta 466 tokens por segundo de decodificación en un iPad Pro con M5 usando Metal. El resumen del informe técnico también recoge esa cifra. Son velocidades reportadas, no una comparación independiente realizada en idénticas condiciones y dispositivos.19
34
| Dispositivo y entorno | Velocidad de decodificación reportada |
|---|---|
| iPhone 18 Pro, MNN | 350 tokens/s |
| iPad Pro con M5, Metal | Hasta 466 tokens/s |
Los tokens por segundo indican la velocidad a la que el modelo va generando la respuesta. No miden por sí solos la rapidez con que una aplicación responde en conjunto: las fuentes disponibles no ofrecen cifras de prefill para estos resultados ni suficientes detalles de las pruebas para compararlos directamente.
Lo que sabemos —y lo que no— sobre sus límites en móviles
El modelo se diseñó explícitamente para ajustarse a los recursos de las aplicaciones móviles. Su reducido tamaño INT4 y las velocidades de decodificación reportadas son pertinentes para ese objetivo, pero no constituyen un cálculo completo del coste de integrarlo y ejecutarlo en una app.16
19
En particular, las fuentes disponibles no indican el consumo de batería por inferencia, no aportan una medición estandarizada de memoria máxima y tampoco cuantifican el coste total de integración. El tamaño del paquete no debe confundirse con la memoria que el modelo ocupa mientras funciona. Las cifras citadas tampoco muestran cómo varía el rendimiento con distintas tareas o condiciones del dispositivo.
Formatos disponibles
La ficha de Hugging Face identifica taobao-mnn/MNN-Pocket-0.3B como la versión de propósito general ajustada para seguir instrucciones, y enumera versiones Base y SFT dentro de la familia.19 También hay un repositorio GGUF independiente con exportaciones F16, Q8_0 y Q4_1 para llama.cpp y entornos compatibles. Sus tamaños indicados son 726 MB, 387 MB y 192 MB, respectivamente.
20
La colección de Taobao MNN incluye además un repositorio llamado MNN-Pocket-0.3B-DFlash2. La información disponible no confirma su configuración ni valida una supuesta mejora de velocidad, por lo que su inclusión no demuestra un aumento concreto del rendimiento.21
En resumen
MNN-Pocket-0.3B destaca por reunir unos 300 millones de parámetros en una versión MNN INT4 de 173 MB y por las velocidades de decodificación que el equipo reporta en el iPhone 18 Pro y el iPad Pro con M5. Es una propuesta orientada a desarrolladores que quieran ejecutar modelos en el dispositivo. Con la evidencia disponible, no se puede concluir que ofrezca un ahorro específico de batería ni conocer el coste total de memoria e integración.16
19
34
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Qué es MNN-Pocket-0.3B y qué revelan sus cifras de velocidad"?
MNN Pocket 0.3B tiene unos 300 millones de parámetros y está diseñado para apps móviles.
¿Cuáles son los puntos clave a validar primero?
MNN Pocket 0.3B tiene unos 300 millones de parámetros y está diseñado para apps móviles. El README de MNN sitúa el lanzamiento el 4 de noviembre de 2026; la noticia sobre el modelo se publicó el 6 de noviembre.
¿Qué debo hacer a continuación en la práctica?
Las fuentes disponibles no detallan el consumo de batería por inferencia ni aportan cifras comparables de prefill y memoria máxima.