Google AI Edge sbarca su Mac: ecco la nuova IA che vive sul tuo computer

Google AI Edge Gallery: il playground per l'IA, a modo di Google

AI Edge Gallery è un'applicazione interattiva open source pensata per far giocare gli sviluppatori con i modelli Gemma sul proprio hardware, sfruttando la potenza dei processori Apple Silicon . L'idea è quella di un "catalogo vivente" di esempi pratici: l'app mostra le potenzialità dell'IA locale con metriche di performance trasparenti e link diretti alla documentazione, fungendo da rampa di lancio per chi vuole sviluppare .

Una delle funzionalità più interessanti è la capacità di generare ed eseguire script al volo per compiti come l'analisi dei dati, il tutto all'interno dell'app stessa .

L'applicazione è disponibile su macOS, iOS e Android, ma è proprio la versione per computer Apple a rendere chiara la strategia di cura dei modelli . Contrariamente alla libertà offerta da Ollama e LM Studio, che permettono di caricare praticamente qualsiasi modello compatibile, AI Edge Gallery per macOS espone solo cinque modelli Gemma, scelti e approvati da Google . Come riportato da 9to5Mac, tra questi troviamo Gemma-4-12B-it, Gemma-4-E2B-it, Gemma-4-E4B-it, una variante Gemma-4 26B e FunctionGemma-270M . Una selezione con il contagocce che è il cuore pulsante della strategia di Google: un ambiente controllato e di qualità garantita .

Il motore nascosto: le prestazioni di LiteRT-LM

Sotto il cofano, l'ecosistema è alimentato dal motore di inferenza LiteRT-LM, che supporta backend CPU, GPU e NPU su Linux, macOS e Windows . Il modello di punta per i benchmark prestazionali rimane Gemma-4-E2B (2,58 GB), e la documentazione ufficiale mostra cosa può fare su un MacBook Pro M4 :

• CPU: 901 token/sec, 42 MB di memoria, 1,1 secondi di latenza per il primo token, 736 MB di picco di memoria .
• GPU (Metal): 7.835 token/sec, 160 MB di memoria, 0,1 secondi di latenza per il primo token, 1.623 MB di picco di memoria .

Il salto quantico con l'accelerazione GPU dimostra come lo stack di Google sia finemente sintonizzato per l'API Metal dei chip Apple, restituendo un'esperienza fluida e quasi istantanea.

Gemma 4 12B: la potenza multimodale che sfida i giganti

Rilasciato con licenza Apache 2.0, Gemma 4 12B è il vero protagonista di questo lancio . La sua architettura rappresenta una differenza sostanziale: è un trasformatore denso, solo decoder, con la stessa struttura avanzata del molto più grande Gemma 4 31B Dense .

L'innovazione cruciale è il design multimodale senza encoder. La maggior parte dei modelli multimodali usa encoder separati e ingombranti per la visione (come un ViT) e per l'audio (come livelli conformer) per tradurre i dati al modello linguistico . Gemma 4 12B li elimina del tutto , adottando un approccio più snello:

• Visione: Un leggero modulo di embedding da 35 milioni di parametri sostituisce il trasformatore di visione a 27 strati. Le "tessere" grezze di pixel 48x48 vengono proiettate direttamente nello spazio di embedding del modello linguistico con una singola moltiplicazione di matrici, e l'informazione spaziale è aggiunta tramite una ricerca di coordinate fattorizzate .
• Audio: Il segnale audio grezzo viene proiettato nello stesso spazio di embedding dei token testuali, senza l'uso di un encoder audio separato .

Questo permette al modello di elaborare nativamente testo, immagini, audio e video in un unico flusso . Google dichiara che questa architettura offre "prestazioni vicine al nostro modello 26B MoE, ma con meno della metà della memoria", e il tutto su laptop consumer con appena 16 GB di memoria unificata .

I benchmark confermano l'ambizione: Gemma 4 12B si comporta eccezionalmente bene per la sua taglia. Su GPQA Diamond (ragionamento di livello universitario), ottiene un punteggio impressionante di 78,8, avvicinandosi alla variante 26B. Su test a scelta multipla come MMLU Pro, raggiunge il 77,2%, e sul difficile benchmark matematico AIME 2026 sfiora il 77,5% . Su LiveCodeBench, per la generazione di codice, il punteggio è del 72,5%, dimostrando robuste capacità pratiche in flussi di lavoro "agentici" e ragionamento a più passaggi .

AI Edge Eloquent: il dettatore gratuito che lima le tue parole

A completare il trittico c'è Google AI Edge Eloquent, un'app di dettatura che si propone come alternativa gratuita e diretta ai servizi di trascrizione a pagamento . L'app si basa sui modelli Gemma ed è progettata per lavorare completamente offline .

Non si limita a trascrivere. Eloquent agisce come un "perfezionatore automatico del parlato": elimina i riempitivi come "um" ed "eh", corregge la grammatica al volo e ristruttura il discorso grezzo in un testo pulito e professionale . In poche parole, è più uno strumento di comunicazione che un semplice app per appunti. La vera differenza è il prezzo: nessun abbonamento, nessun limite di utilizzo . La versione per macOS richiede macOS 13.0 o successivo e un chip Apple M1 o successivo, anche se la pagina dell'App Store avverte che alcune funzionalità avanzate e opzionali potrebbero richiedere l'elaborazione nel cloud .

Strategia: il Giardino Recintato contro la Libreria Aperta

Con questo lancio, si cristallizzano due filosofie opposte per l'IA sul computer di casa. Google sceglie la via del "giardino recintato": un insieme curato di modelli approvati da Google, strettamente integrati con app proprietarie (Gallery per sperimentare, Eloquent per dettare), e un motore di inferenza unificato (LiteRT-LM) con tanto di interfaccia a riga di comando e API Python . L'obiettivo è un'esperienza senza intoppi, di livello consumer, che "funziona e basta".

Dall'altro lato, Ollama e LM Studio danno priorità alla massima flessibilità, come librerie aperte da cui l'utente può attingere a qualsiasi modello compatibile . È interessante notare che sia Ollama che LM Studio già supportano il modello aperto Gemma 4 12B, quindi la tecnologia di Google non è esclusiva del suo stack .

Il vantaggio di Google sta nell'ottimizzazione proprietaria: i modelli sono messi a punto per il suo motore di inferenza e per l'Apple Silicon, garantendo migliori performance e un minore consumo di memoria. Il compromesso per l'utente è lampante: si ottiene un'esperienza più raffinata e integrata, ma si rinuncia alla libertà di eseguire modelli esterni alla famiglia curata da Google. In questo bivio per l'IA locale su Mac, Google si posiziona per attrarre chi cerca l'affidabilità e la comodità a scapito della sperimentazione selvaggia.