Muse Glimmer: l'AI locale di Meta che funziona su una singola GPU consumer

Il 10 agosto 2026, Meta Superintelligence Labs ha rilasciato Muse Glimmer, un modello AI open-weight di circa 29,6 miliardi di parametri, progettato per funzionare interamente su una singola GPU consumer, senza necessità di connessione al cloud . Si tratta della prima release open-weight di Meta dopo oltre un anno, segnando un ritorno alle radici open-source dell'azienda dopo il deludente lancio di Llama 4 .

Specifiche Tecniche

Muse Glimmer è un transformer causale denso (non Mixture-of-Experts) con un encoder percettivo ViT-G/14 da ~1,8 miliardi di parametri dedicato all'input multimodale (testo e immagini) . La sua architettura prevede 52 layer, una dimensione nascosta di 6.656, 32 query head con un pattern di attenzione GQA 16:1, e una dimensione intermedia FFN SwiGLU di 19.968 .

Specifica	Dettaglio
Parametri totali	~29,6B (27,8B modello linguistico + ~1,8B encoder visivo)
Finestra di contesto	131.072+ token (fino a 262K in alcune configurazioni)
Input multimodale	Testo + immagini tramite encoder dedicato
Licenza	Apache 2.0 — consente uso commerciale, modifica e redistribuzione
Funzionamento offline/locale	Interamente su una singola GPU consumer o Mac — nessun cloud richiesto
Data di conoscenza	4 gennaio 2026
Dati di training	Oltre 100 lingue

Il modello a piena precisione richiederebbe circa 55 GB di VRAM, ma Meta lo distribuisce con quantizzazione a 4 bit che lo comprime a meno di 20 GB .

Varianti VRAM Quantizzate

Meta distribuisce due configurazioni quantizzate, entrambe basate su K-Quant e misurate su 15 benchmark :

• K-Quant-Dynamic — target ~32 GB di VRAM, con un degrado medio dello 0,2% rispetto alla piena precisione
• K-Quant-17GB — target ~24 GB di VRAM (modello sotto i 20 GB), con un degrado medio dell'1,0%

Laboratori indipendenti non hanno ancora riprodotto queste stime aggregate di degrado .

Decodifica Speculativa DFlash e Throughput Locale

Per risolvere il problema della latenza nell'esecuzione locale di un modello da 30 miliardi di parametri, Meta affianca a Muse Glimmer DFlash, un piccolo drafter di decodifica speculativa a cinque layer che propone blocchi di 16 token alla volta, che il modello principale verifica poi in parallelo .

Meta riporta i seguenti throughput sulla versione quantizzata da 17 GB con batch size 1 e decodifica greedy :

Hardware	Baseline (token/s)	Con DFlash (token/s)	Accelerazione
NVIDIA RTX 5090	74,9	233,4	3,1x
Apple M5 Max	26,6	50,2	1,9x
Apple M4 Max	23,7	37,8	1,6x

SGLang ha riportato 236,4 token/s sullo stesso hardware RTX 5090 in una misurazione separata giorno-zero . Test indipendenti preliminari su RTX 5090 con llama.cpp a volte mostrano valori inferiori (es. ~137 token/s), suggerendo che il dato di 233+ token/s richieda ottimizzazioni specifiche .

Capacità Agentiche

Muse Glimmer non è principalmente un chatbot: è un agente AI locale progettato per flussi di lavoro autonomi . Meta lo ha espressamente ottimizzato per pianificare, chiamare strumenti e recuperare dai propri errori . Supporta nativamente il Model Context Protocol (MCP) e si integra con i framework agentici più diffusi .

I casi d'uso chiave includono: chiamate a funzioni, coding locale, sessioni prolungate di uso di strumenti, valutazione LLM-as-a-judge, analisi di documenti e assistenti personali .

Prestazioni nei Benchmark vs. Concorrenti

Meta ha pubblicato confronti diretti con Gemma 4 31B di Google e Qwen 3.6 27B di Alibaba (entrambi in modalità ragionamento) :

Benchmark	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Cosa testa
MCP Atlas (Pubblico)	75,5	54,2	62,5	Uso multi-turno di 20+ server MCP
DeepSearch QA	74,6	61,7	71,1	Ricerca web autonoma
SWE-Bench Pro	51,2	36,9	50,2	Compiti software complessi a livello di repository
SWE-Bench Verified	76,0	66,6	77,2	Compiti di coding verificati
AIME 2026 (ragionamento matematico)	94,7	89,2	94,1	Ragionamento matematico
τ³-Banking (agentico)	23,5	15,1	16,7	Compiti bancari agentici
OSWorld-Verified	65,9	58,5	75,6	Automazione del desktop
Terminal-Bench 2.1	51,7	43,4	60,7	Lavoro su terminale/sistemi

Muse Glimmer è in testa nella maggior parte dei benchmark agentici, inclusi MCP Atlas (75,5 contro 62,5 per Qwen) e DeepSearch QA (74,6 contro 71,1) . Ottiene anche 94,7 su AIME 2026, superando entrambi i concorrenti .

Avvertenza: Un'analisi di terze parti nota che Glimmer è in ritardo rispetto a Qwen 3.6 27B su TerminalBench 2.1 (51,7 contro 60,7) e OSWorld-Verified (65,9 contro 75,6), e tende a rifiutare alcuni compiti di automazione a livello di sistema operativo .

Distillazione da Muse Spark

Muse Glimmer è stato distillato da Muse Spark (il modello frontier più grande e chiuso di Meta) utilizzando distillazione logit durante il pre-training, seguito da supervised fine-tuning e RLHF . Muse Spark stesso rimane chiuso — disponibile solo come API hosted — rendendo Glimmer la distillazione open-weight per gli utenti che desiderano un'implementazione locale . Meta ha indicato che potrebbe seguire un rilascio open di Muse Spark .

Contesto Strategico: Superintelligenza per Tutti

Muse Glimmer è il prodotto più chiaro finora della visione di Mark Zuckerberg di una "superintelligenza personale" — un'AI potente che funziona localmente sui dispositivi personali, libera da costi cloud, abbonamenti o dalla necessità di inviare dati fuori dal dispositivo . TechCrunch lo ha definito "il quadro più chiaro finora" di quella visione .

Il rilascio segue mesi di turbolenze interne dopo il deludente lancio di Llama 4 nella primavera del 2026, dopo il quale Meta sembrava aver abbandonato l'AI open-weight. Muse Glimmer riapre quella strategia .

L'Investimento da 14,3 Miliardi di Dollari in Scale AI

Nel giugno 2025, Meta ha investito 14,3 miliardi di dollari in Scale AI, un'azienda specializzata nell'etichettatura dei dati, acquisendo una partecipazione di circa il 49% . L'accordo ha portato l'amministratore delegato ventottenne di Scale, Alexandr Wang, a guidare la nuova divisione "Superintelligence" di Meta . L'investimento mirava a garantire dati di training di alta qualità e talento per la famiglia di modelli Muse . A gennaio 2026, CNBC ha riferito che Wang stava guidando l'unità AI TBD di Meta, impegnata nello sviluppo di un successore di Llama, nome in codice Avocado .

Disponibilità e Supporto Giorno Zero

Muse Glimmer è scaricabile da Hugging Face all'indirizzo meta-models/Muse-Glimmer-30B con licenza Apache 2.0 . Ha supporto giorno zero in:

• Ollama — scarica ed esegui localmente con un singolo comando
• LM Studio — supportato per inferenza locale tramite interfaccia grafica
• SGLang — oltre 230 token/s su RTX 5090
• llama.cpp — conversioni GGUF della community disponibili dal giorno del rilascio
• NVIDIA NIM — inferenza ottimizzata tramite il framework microservizi di NVIDIA
• AMD ROCm — supporto ufficiale per Ryzen AI Max e GPU Radeon

I primi report della community mostrano che anche una RTX 3090 (24 GB) può eseguire il modello quantizzato Q4_K_XL con DFlash e una finestra di contesto di 262K utilizzando circa 22-23 GB di VRAM .