Esto es relevante porque Apple se ha enfrentado a una limitación importante: sus propios modelos de base en el dispositivo utilizan arquitecturas dispersas donde solo una fracción de los parámetros se activa en cada momento. En la WWDC 2026, Apple anunció un modelo en el dispositivo de aproximadamente 20 mil millones de parámetros, pero solo se activan entre 1 y 4 mil millones por inferencia . El enfoque de PrismML ejecuta los 27 mil millones de parámetros completamente activos en el mismo hardware, sin necesidad de llamadas al servidor, lo que podría desbloquear un Siri mucho más capaz, herramientas de escritura y experiencias de aplicaciones inteligentes sin sacrificar la privacidad ni requerir conexión a la nube . Según los informes, Apple ha tenido dificultades para comprimir sus propios modelos de IA internos para el iPhone sin una degradación severa del rendimiento, lo que hace que una solución externa como la de PrismML sea altamente estratégica .
El avance de PrismML se centra en la representación de pesos ternarios nativos de 1 bit, aplicada a toda la red neuronal, no solo a capas seleccionadas:
Pesos ternarios en toda la red. Cada peso del modelo se limita exactamente a tres valores {-1, 0, +1}, codificando aproximadamente 1,58 bits por parámetro . Esto es fundamentalmente diferente de la cuantización estándar de 16 bits (FP16) o incluso de 8 bits, que todavía utilizan rangos de valores de punto flotante o enteros.
Entrenado de forma nativa en 1 bit desde cero. A diferencia de la compresión típica que comienza con un modelo de precisión completa y lo cuantiza después (a menudo con pérdida de precisión), PrismML entrena sus modelos de forma nativa en precisión de 1 bit desde el principio . La empresa afirma que "la lógica ternaria se construye a través de la propia arquitectura de la red", no se añade retroactivamente .
Ganancias dramáticas de densidad. El modelo Bonsai 8B de 1 bit de PrismML comprime 8.2 mil millones de parámetros en solo 1,15 GB de memoria, aproximadamente 14 veces más pequeño que un modelo convencional de 16 bits, mientras afirma una precisión competitiva con alternativas de precisión completa en puntos de referencia estándar . La compresión de Qwen 3.6 de 27B de la empresa cabe igualmente en la memoria del iPhone .
Eficiencia energética. La representación de 1 bit ofrece aproximadamente 5 veces mejor eficiencia energética en comparación con los modelos de precisión completa, y el modelo de 8B funciona a más de 40 tokens por segundo en un iPhone 17 Pro, más rápido que las necesidades típicas de uso en tiempo real .
Advertencia: Las afirmaciones de PrismML aún no han sido verificadas de forma independiente a gran escala por la comunidad de investigación de IA en general. La empresa salió del sigilo el 31 de marzo de 2026, respaldada por 16,25 millones de dólares de Khosla Ventures y Cerberus Ventures, y sus modelos se publican como código abierto bajo Apache 2.0, lo que debería permitir la validación externa con el tiempo .
Esto es relevante porque Apple se ha enfrentado a una limitación importante: sus propios modelos de base en el dispositivo utilizan arquitecturas dispersas donde solo una fracción de los parámetros se activa en cada momento. En la WWDC 2026, Apple anunció un modelo en el dispositivo de aproximadamente 20 mil millones de parámetros, pero solo se activan entre 1 y 4 mil millones por inferencia . El enfoque de PrismML ejecuta los 27 mil millones de parámetros completamente activos en el mismo hardware, sin necesidad de llamadas al servidor, lo que podría desbloquear un Siri mucho más capaz, herramientas de escritura y experiencias de aplicaciones inteligentes sin sacrificar la privacidad ni requerir conexión a la nube . Según los informes, Apple ha tenido dificultades para comprimir sus propios modelos de IA internos para el iPhone sin una degradación severa del rendimiento, lo que hace que una solución externa como la de PrismML sea altamente estratégica .
El avance de PrismML se centra en la representación de pesos ternarios nativos de 1 bit, aplicada a toda la red neuronal, no solo a capas seleccionadas:
Pesos ternarios en toda la red. Cada peso del modelo se limita exactamente a tres valores {-1, 0, +1}, codificando aproximadamente 1,58 bits por parámetro . Esto es fundamentalmente diferente de la cuantización estándar de 16 bits (FP16) o incluso de 8 bits, que todavía utilizan rangos de valores de punto flotante o enteros.
Entrenado de forma nativa en 1 bit desde cero. A diferencia de la compresión típica que comienza con un modelo de precisión completa y lo cuantiza después (a menudo con pérdida de precisión), PrismML entrena sus modelos de forma nativa en precisión de 1 bit desde el principio . La empresa afirma que "la lógica ternaria se construye a través de la propia arquitectura de la red", no se añade retroactivamente .
Ganancias dramáticas de densidad. El modelo Bonsai 8B de 1 bit de PrismML comprime 8.2 mil millones de parámetros en solo 1,15 GB de memoria, aproximadamente 14 veces más pequeño que un modelo convencional de 16 bits, mientras afirma una precisión competitiva con alternativas de precisión completa en puntos de referencia estándar . La compresión de Qwen 3.6 de 27B de la empresa cabe igualmente en la memoria del iPhone .
Eficiencia energética. La representación de 1 bit ofrece aproximadamente 5 veces mejor eficiencia energética en comparación con los modelos de precisión completa, y el modelo de 8B funciona a más de 40 tokens por segundo en un iPhone 17 Pro, más rápido que las necesidades típicas de uso en tiempo real .
Advertencia: Las afirmaciones de PrismML aún no han sido verificadas de forma independiente a gran escala por la comunidad de investigación de IA en general. La empresa salió del sigilo el 31 de marzo de 2026, respaldada por 16,25 millones de dólares de Khosla Ventures y Cerberus Ventures, y sus modelos se publican como código abierto bajo Apache 2.0, lo que debería permitir la validación externa con el tiempo .