Apple e PrismML, la sfida per portare modelli AI molto più grandi direttamente sull’iPhone

Il punto non è soltanto il numero complessivo dei parametri. Nei modelli sparsi, infatti, una parte dei parametri può restare inattiva durante ogni singola elaborazione. I resoconti disponibili affermano che un modello Apple on-device da circa 20 miliardi di parametri ne attiverebbe soltanto una frazione, tra 1 e 4 miliardi, per inferenza; nel modello Qwen compresso da PrismML, invece, tutti i 27 miliardi di parametri sarebbero attivi .

Se la dimostrazione venisse confermata, il risultato potrebbe ridurre il divario tra l’AI eseguita sul dispositivo e quella che oggi dipende dai server. Per l’utente, questo significherebbe potenzialmente risposte più rapide, funzioni utilizzabili anche senza connessione e una maggiore quantità di dati elaborata localmente. Sono esattamente alcuni dei vantaggi su cui Apple insiste per la propria AI on-device: privacy, funzionamento offline e assenza di latenza o costi legati al cloud .

Un modello locale più capace potrebbe rafforzare funzioni come Siri, gli strumenti di scrittura e le esperienze intelligenti integrate nelle app. Tuttavia, non è corretto concludere che PrismML abbia già risolto la strategia AI di Apple: non risultano confermate né un accordo commerciale né l’adozione della tecnologia in un prodotto Apple.

Che cosa rende particolare la compressione di PrismML

Pesi ternari in tutta la rete

Il cuore dell’approccio di PrismML è la rappresentazione cosiddetta ternaria. Invece di assegnare ai pesi della rete valori floating point a 16 bit, o valori quantizzati a 8 bit, il modello li limita a tre possibilità: -1, 0 e +1 .

Tre valori distinti richiedono teoricamente log₂(3), cioè circa 1,58 bit, per essere rappresentati. Da qui deriva la definizione di modelli “1,58-bit” o “ternari”. La riduzione della memoria necessaria può essere molto significativa, soprattutto quando riguarda l’intera rete e non soltanto alcuni livelli.

Addestramento nativo, non semplice conversione finale

La differenza più importante rispetto alla quantizzazione tradizionale riguarda il momento in cui avviene la compressione. Spesso un modello viene addestrato in alta precisione e quantizzato soltanto in seguito, con il rischio di perdere accuratezza o capacità di ragionamento.

PrismML afferma invece di addestrare i propri modelli nativamente con pesi a 1 bit o ternari, costruendo la logica di compressione nell’architettura fin dall’inizio . In teoria, questo dovrebbe permettere al modello di adattarsi ai vincoli di precisione invece di subirli come una trasformazione successiva.

Più “intelligenza” in meno memoria

La startup presenta questa filosofia come un’ottimizzazione della cosiddetta intelligence density: la quantità di capacità del modello ottenibile per gigabyte di memoria . Per la famiglia 1-bit Bonsai, PrismML dichiara che il modello da 8 miliardi di parametri occupa circa 1,15 GB e può raggiungere oltre 40 token al secondo su un iPhone 17 Pro .

Altri resoconti descrivono inoltre una compressione di Qwen 3.6 da circa 54 GB a meno di 4 GB, mantenendo attivi tutti i parametri del modello; questi numeri restano però dichiarazioni della società o di fonti secondarie, non risultati verificati in modo indipendente .

Il principale limite: le prove sono ancora limitate

PrismML è emersa dalla fase stealth il 31 marzo 2026 e ha reso disponibili modelli open source della famiglia Bonsai, inclusi modelli con licenza Apache 2.0 secondo le informazioni pubblicate da fonti che ne hanno seguito il lancio . Questo rende possibile un controllo esterno più approfondito nel tempo.

Per ora, però, le prestazioni dichiarate non equivalgono a una validazione scientifica consolidata. Per valutare davvero la tecnologia servirebbero benchmark riproducibili, confronti su più dispositivi, misurazioni indipendenti di velocità e consumi e test sulla qualità delle risposte. Anche la disponibilità di memoria non è l’unico ostacolo: contano il calore prodotto, la durata della batteria, la gestione della memoria e la stabilità durante sessioni prolungate.

La notizia, quindi, va letta come un segnale strategico: se PrismML riuscisse davvero a eseguire modelli densi di queste dimensioni su hardware mobile senza un forte degrado delle prestazioni, offrirebbe ad Apple una possibile via per rendere l’AI locale più potente. Ma, allo stato attuale, si parla di una tecnologia promettente e di discussioni riportate, non ancora di una svolta confermata nei prodotti Apple.