Meta's Muse Glimmer: Het 30B open AI-model dat draait op één enkele consumenten-GPU

Op 10 augustus 2026 heeft Meta Superintelligence Labs Muse Glimmer uitgebracht — een open AI-model van ongeveer 29,6 miljard parameters dat volledig draait op één consumenten-GPU, zonder dat er een internetverbinding of cloud nodig is . Het is Meta's eerste open release in meer dan een jaar en markeert een terugkeer naar open AI na de teleurstellende lancering van Llama 4 .

Belangrijkste specificaties

Muse Glimmer is een dense causale transformer (geen Mixture-of-Experts) met een speciale beeldencoder van ongeveer 1,8 miljard parameters voor multimodale invoer . Het model heeft 52 lagen, een verborgen dimensie van 6.656 en 32 query-heads met een 16:1 Grouped Query Attention-patroon .

Specificatie	Detail
Totaal parameters	~29,6 miljard (27,8 miljard taal + ~1,8 miljard visie-encoder)
Contextvenster	131.072+ tokens (tot 262K in sommige configuraties)
Multimodale invoer	Tekst + afbeeldingen via de speciale beeldencoder
Licentie	Apache 2.0 — commercieel gebruik, aanpassing en herdistributie toegestaan
Offline/lokaal	Draait volledig op één consumenten-GPU of Mac — geen cloud nodig
Knowledge cutoff	4 januari 2026
Trainingsdata	Bestrijkt meer dan 100 talen

Het model op volledige precisie heeft ongeveer 55 GB VRAM nodig, maar Meta levert het met 4-bit kwantisatie die het model comprimeert tot onder de 20 GB .

Gekwantiseerde VRAM-varianten

Meta levert twee varianten, beide gebouwd met K-Quant en getest op 15 benchmarks :

• K-Quant-Dynamic — gericht op ~32 GB VRAM, met slechts 0,2% gemiddelde benchmarkachteruitgang vs. volledige precisie
• K-Quant-17GB — gericht op ~24 GB VRAM (model is onder 20 GB), met 1,0% gemiddelde achteruitgang

Onafhankelijke laboratoria hebben deze beweringen nog niet gereproduceerd .

DFlash speculatieve decodering & lokale doorvoer

Om het snelheidsprobleem van een 30B-model op te lossen, koppelt Meta Muse Glimmer aan DFlash — een kleine speculatieve decoder van vijf lagen die blokken van 16 tokens tegelijk voorstelt, welke het hoofdmodel vervolgens parallel verifieert .

Meta rapporteert de volgende doorvoer op het 17 GB-model bij batchsize 1 met greedy decoding :

Hardware	Zonder DFlash (tok/s)	Met DFlash (tok/s)	Versnelling
NVIDIA RTX 5090	74,9	233,4	3,1x
Apple M5 Max	26,6	50,2	1,9x
Apple M4 Max	23,7	37,8	1,6x

SGLang meldde 236,4 tok/s op dezelfde RTX 5090-hardware in een aparte meting . Vroege onafhankelijke tests op een RTX 5090 met llama.cpp laten soms lagere aantallen zien (bijv. ~137 tok/s), wat suggereert dat de 233+ tok/s specifieke optimalisaties vereist .

Agent-mogelijkheden

Muse Glimmer is niet primair een chatbot — het is een lokale AI-agent ontworpen voor autonome workflows . Meta heeft het expliciet afgesteld om te plannen, tools te gebruiken en te herstellen van eigen fouten . Het ondersteunt native het Model Context Protocol (MCP) en integreert met populaire agentframeworks .

Belangrijke toepassingen zijn: functie-aanroepen, lokaal programmeren, lange tool-sessies, LLM-as-a-judge-evaluatie, documentanalyse en persoonlijke assistenten .

Benchmarkprestaties vs. concurrenten

Meta heeft directe vergelijkingen gepubliceerd met Google's Gemma 4 31B en Alibaba's Qwen 3.6 27B (beide in denk-/redeneermodus) :

Benchmark	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Wat het test
MCP Atlas (Publiek)	75,5	54,2	62,5	Multi-turn gebruik van 20+ MCP-servers
DeepSearch QA	74,6	61,7	71,1	Autonoom webonderzoek
SWE-Bench Pro	51,2	36,9	50,2	Moeilijke repository-level softwaretaken
SWE-Bench Verified	76,0	66,6	77,2	Geverifieerde programmeertaken
AIME 2026 (wiskundig redeneren)	94,7	89,2	94,1	Wiskundig redeneren
τ³-Banking (agentisch)	23,5	15,1	16,7	Agentische banktaken
OSWorld-Verified	65,9	58,5	75,6	Desktop OS-automatisering
Terminal-Bench 2.1	51,7	43,4	60,7	Terminal-/systeemwerk

Muse Glimmer leidt op de meeste agentische benchmarks, waaronder MCP Atlas (75,5 vs. 62,5 voor Qwen) en DeepSearch QA (74,6 vs. 71,1) . Het scoort ook 94,7 op AIME 2026, beter dan beide concurrenten .

Kanttekening: Een analyse van een derde partij merkt op dat Glimmer achterloopt op Qwen 3.6 27B op TerminalBench 2.1 (51,7 vs. 60,7) en OSWorld-Verified (65,9 vs. 75,6), en de neiging heeft om bepaalde OS-automatiseringstaken te weigeren .

Distillatie van Muse Spark

Muse Glimmer is gedistilleerd van Muse Spark (Meta's grotere, gesloten topmodel) met behulp van logit-distillatie tijdens de voortraining, gevolgd door supervised fine-tuning en RLHF . Muse Spark zelf blijft gesloten — alleen beschikbaar als een gehoste API — waardoor Glimmer de open distillatie is voor gebruikers die lokale implementatie willen . Meta heeft aangegeven dat een open release van Muse Spark mogelijk volgt .

Strategische context: Superintelligentie voor iedereen

Muse Glimmer is het duidelijkste product tot nu toe van Mark Zuckerbergs visie van "persoonlijke superintelligentie" — krachtige AI die lokaal draait op persoonlijke apparaten, vrij van cloudkosten, abonnementskosten of data die het apparaat verlaat . TechCrunch noemde het "het duidelijkste beeld tot nu toe" van die visie .

De release volgt op maanden van interne onrust na de teleurstellende lancering van Llama 4 in het voorjaar van 2026, waarna Meta open AI leek te hebben verlaten. Muse Glimmer heropent die strategie .

De investering van $14,3 miljard in Scale AI

In juni 2025 investeerde Meta 14,3 miljard dollar in data-labelingsbedrijf Scale AI, waarmee het een belang van ~49% verwierf . De deal bracht Scale's 28-jarige CEO Alexandr Wang naar Meta's nieuwe "Superintelligence"-divisie . De investering was gericht op het veiligstellen van hoogwaardige trainingsdata en talent voor de Muse-modelfamilie . CNBC meldde in januari 2026 dat Wang aan het hoofd stond van Meta's TBD AI-eenheid die een opvolger van Llama bouwde, met codenaam Avocado .

Beschikbaarheid en dag-0-ondersteuning

Muse Glimmer is te downloaden van Hugging Face op meta-models/Muse-Glimmer-30B onder de Apache 2.0-licentie . Het heeft dag-0-ondersteuning in:

• Ollama — download en draai lokaal met één commando
• LM Studio — ondersteund voor lokale GUI-gebaseerde inferentie
• SGLang — 230+ tok/s op RTX 5090
• llama.cpp — community GGUF-conversies beschikbaar op dag 1
• NVIDIA NIM — geoptimaliseerde inferentie via NVIDIA's microservice-framework
• AMD ROCm — officiële ondersteuning voor Ryzen AI Max en Radeon-GPU's

Vroege community-rapporten tonen aan dat zelfs een RTX 3090 (24 GB) het Q4_K_XL-gekwantiseerde model met DFlash en een 262K-contextvenster kan draaien met ongeveer 22-23 GB VRAM .