Metas Muse Glimmer: Kraftfuld AI, der kører lokalt på dit eget grafikkort

On August 10, 2026, Meta Superintelligence Labs released Muse Glimmer — a ~29.6-billion-parameter open-weight AI model that runs entirely on a single consumer GPU, without requiring any cloud connection . It is Meta's first open-weight release in over a year, signaling a return to its open-source AI roots after the disappointing launch of Llama 4 .

De vigtigste specifikationer

Muse Glimmer er en tæt kausal transformer (ikke Mixture-of-Experts) med en dedikeret ~1,8 mia.-parameter ViT-G/14 perceptionskoder til multimodal input . Modellen har 52 lag, en skjult dimension på 6.656 og 32 query-heads med et 16:1 Grouped Query Attention-mønster .

Specifikation	Detalje
Samlede parametre	~29,6 mia. (27,8 mia. sprogmodel + ~1,8 mia. visionskoder)
Kontekstvindue	131.072+ tokens (op til 262.000 i visse konfigurationer)
Multimodal input	Tekst + billeder via den dedikerede perceptionskoder
Licens	Apache 2.0 — tillader kommerciel brug, ændring og videredistribution
Offline/lokal	Kører helt på ét enkelt forbrugergrafikkort eller en Mac – ingen sky påkrævet
Knowledge cutoff	4. januar 2026
Træningsdata	Dækker mere end 100 sprog

Full-precision-modellen kræver ~55 GB VRAM, men Meta leverer den med 4-bit kvantisering, der komprimerer modellen til under 20 GB .

Kvantiserede VRAM-varianter

Meta leverer to kvantiserede konfigurationer, begge bygget med K-Quant og målt på 15 benchmarks :

• K-Quant-Dynamic — rettet mod ~32 GB VRAM, med kun 0,2 % gennemsnitlig benchmark-forringelse i forhold til full-precision
• K-Quant-17GB — rettet mod ~24 GB VRAM (modellen er under 20 GB), med 1,0 % gennemsnitlig forringelse

Uafhængige laboratorier har endnu ikke reproduceret disse aggregerede forringelsespåstande .

DFlash spekulativ dekodning og lokal gennemstrømning

For at løse latency-problemet ved at køre en 30B-model lokalt, parrer Meta Muse Glimmer med DFlash — en lille femlags spekulativ-dekodnings-drafter, der foreslår blokke på 16 tokens ad gangen, som hovedmodellen derefter verificerer parallelt .

Meta rapporterer følgende gennemstrømning på den 17 GB kvantiserede model ved batch-størrelse 1 med greedy decoding :

Hardware	Baseline (tok/s)	Med DFlash (tok/s)	Speedup
NVIDIA RTX 5090	74,9	233,4	3,1x
Apple M5 Max	26,6	50,2	1,9x
Apple M4 Max	23,7	37,8	1,6x

SGLang rapporterede 236,4 tok/s på samme RTX 5090-hardware i en separat dag-0-måling . Tidlige uafhængige tests på et RTX 5090 med llama.cpp viser nogle gange lavere tal (f.eks. ~137 tok/s), hvilket tyder på, at de 233+ tok/s kræver specifikke optimeringer .

Agentegenskaber

Muse Glimmer er primært ikke en chatbot — det er en lokal AI-agent designet til autonome arbejdsflows . Meta har eksplicit tunet den til at planlægge, kalde værktøjer og komme sig over sine egne fejl . Den understøtter Model Context Protocol (MCP) nativt og integreres med populære agent-rammeværker .

Centrale anvendelsestilfælde inkluderer: funktionskald, lokal kodning, lange værktøjssessioner, LLM-som-dommer-evaluering, dokumentanalyse og personlige assistenter .

Benchmark-præstation vs. konkurrenter

Meta har publiceret direkte sammenligninger mod Googles Gemma 4 31B og Alibabas Qwen 3.6 27B (begge i tænke-/ræsonnement-mode) :

Benchmark	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Hvad det tester
MCP Atlas (Offentlig)	75,5	54,2	62,5	Multi-turn brug af 20+ MCP-servere
DeepSearch QA	74,6	61,7	71,1	Autonom webforskning
SWE-Bench Pro	51,2	36,9	50,2	Svære repository-niveau softwareopgaver
SWE-Bench Verificeret	76,0	66,6	77,2	Verificerede kodningsopgaver
AIME 2026 (matematisk ræsonnement)	94,7	89,2	94,1	Matematisk ræsonnement
τ³-Banking (agentbaseret)	23,5	15,1	16,7	Agentbaserede bankopgaver
OSWorld-Verificeret	65,9	58,5	75,6	Desktop OS-automation
Terminal-Bench 2.1	51,7	43,4	60,7	Terminal-/systemarbejde

Muse Glimmer fører på de fleste agentbaserede benchmarks, inklusive MCP Atlas (75,5 vs. 62,5 for Qwen) og DeepSearch QA (74,6 vs. 71,1) . Den scorer også 94,7 på AIME 2026 og overgår dermed begge konkurrenter .

Forbehold: En tredjepartsanalyse bemærker, at Glimmer halter efter Qwen 3.6 27B på TerminalBench 2.1 (51,7 vs. 60,7) og OSWorld-Verificeret (65,9 vs. 75,6) og har en tendens til at afvise visse OS-niveau-automationsopgaver .

Destillation fra Muse Spark

Muse Glimmer blev destilleret fra Muse Spark (Metas større, lukkede frontlinjemodel) ved hjælp af logit-destillation under præ-træning, efterfulgt af superviseret finjustering og RLHF . Muse Spark selv forbliver lukket — kun tilgængelig som en hosted API — hvilket gør Glimmer til den open-weight-destillation for brugere, der ønsker lokal implementering . Meta har indikeret, at en åben udgivelse af Muse Spark kan følge .

Strategisk kontekst: Superintelligens til alle

Muse Glimmer er det klareste produkt hidtil af Mark Zuckerbergs vision om "personlig superintelligens" — kraftfuld AI, der kører lokalt på personlige enheder, fri for skyomkostninger, abonnementsgebyrer eller data, der forlader enheden . TechCrunch kaldte det "det klareste billede endnu" af den vision .

Udgivelsen følger måneders intern uro efter Llama 4's skuffende lancering i foråret 2026, hvorefter Meta så ud til at opgive open-weight-AI. Muse Glimmer genåbner den strategi .

Investeringen på $14,3 mia. i Scale AI

I juni 2025 investerede Meta 14,3 milliarder dollars i data-labelingsfirmaet Scale AI og opnåede en ~49%-andel . Aftalen bragte Scales 28-årige CEO Alexandr Wang til at lede Metas nye "Superintelligence"-division . Investeringen havde til formål at sikre træningsdata og talent af høj kvalitet til Muse-modelfamilien . CNBC rapporterede i januar 2026, at Wang ledede Metas TBD AI-enhed, der byggede en efterfølger til Llama, med kodenavnet Avocado .

Tilgængelighed og dag-0-support

Muse Glimmer kan downloades fra Hugging Face på meta-models/Muse-Glimmer-30B under Apache 2.0-licensen . Den har dag-0-support i:

• Ollama — træk og kør lokalt med en enkelt kommando
• LM Studio — understøtter lokal GUI-baseret inferens
• SGLang — 230+ tok/s på RTX 5090
• llama.cpp — community GGUF-konverteringer tilgængelige på udgivelsesdagen
• NVIDIA NIM — optimeret inferens via NVIDIAs mikroservicerammeværk
• AMD ROCm — officiel support til Ryzen AI Max og Radeon GPU'er

Tidlige community-rapporter viser, at selv et RTX 3090 (24 GB) kan køre den Q4_K_XL-kvantiserede model med DFlash og et 262K kontekstvindue ved hjælp af omkring 22-23 GB VRAM .