Muse Glimmer: Metas 30B-Open-Weight-KI-Modell läuft komplett auf einer einzigen Consumer-GPU

Am 10. August 2026 hat Meta Superintelligence Labs Muse Glimmer veröffentlicht – ein ~29,6 Milliarden Parameter schweres Open-Weight-KI-Modell, das vollständig auf einer einzigen Consumer-GPU läuft, ohne jegliche Cloud-Anbindung zu benötigen . Es ist Metas erste Open-Weight-Veröffentlichung seit über einem Jahr und signalisiert die Rückkehr zu den Open-Source-KI-Wurzeln nach dem enttäuschenden Start von Llama 4 .

Die wichtigsten Spezifikationen

Muse Glimmer ist ein dichter kausaler Transformer (kein Mixture-of-Experts) mit einem dedizierten ~1,8-Milliarden-Parameter-ViT-G/14-Perception-Encoder für multimodale Eingaben . Es verfügt über 52 Schichten, eine verborgene Dimension von 6.656 und 32 Query-Heads mit einem 16:1 Grouped-Query-Attention-Muster .

Spezifikation	Detail
Gesamtparameter	~29,6B (27,8B Sprachmodell + ~1,8B Vision-Encoder)
Kontextfenster	131.072+ Token (bis zu 262K in einigen Konfigurationen)
Multimodale Eingabe	Text + Bilder über den Perception-Encoder
Lizenz	Apache 2.0 – erlaubt kommerzielle Nutzung, Modifikation und Weiterverbreitung
Offline/lokal	Läuft komplett auf einer einzigen Consumer-GPU oder einem Mac – keine Cloud erforderlich
Wissensstand (Cutoff)	4. Januar 2026
Trainingsdaten	Mehr als 100 Sprachen

In voller Präzision benötigt das Modell ~55 GB VRAM, aber Meta liefert es mit 4-Bit-Quantisierung, die das Modell auf unter 20 GB komprimiert .

Quantisierte VRAM-Varianten

Meta liefert zwei quantisierte Release-Konfigurationen aus, beide mit K-Quant und gegen 15 Benchmarks gemessen :

• K-Quant-Dynamic – zielt auf ~32 GB VRAM, mit nur 0,2 % durchschnittlicher Benchmark-Verschlechterung gegenüber voller Präzision
• K-Quant-17GB – zielt auf ~24 GB VRAM (Modell unter 20 GB), mit 1,0 % durchschnittlicher Verschlechterung

Unabhängige Labore haben diese aggregierten Verschlechterungsangaben noch nicht reproduziert .

DFlash-Spekulatives Decoding & Lokaler Durchsatz

Um das Latenzproblem beim Ausführen eines 30B-Modells lokal zu lösen, kombiniert Meta Muse Glimmer mit DFlash – einem kleinen, fünfschichtigen spekulativen Decoding-Drafter, der Blöcke von 16 Token auf einmal vorschlägt, die das Hauptmodell dann parallel verifiziert .

Meta gibt den folgenden Durchsatz für das 17-GB-quantisierte Modell bei Batch-Größe 1 mit Greedy-Decoding an :

Hardware	Basislinie (Tok/s)	Mit DFlash (Tok/s)	Beschleunigung
NVIDIA RTX 5090	74,9	233,4	3,1x
Apple M5 Max	26,6	50,2	1,9x
Apple M4 Max	23,7	37,8	1,6x

SGLang meldete 236,4 Tok/s auf derselben RTX-5090-Hardware in einer separaten Tag-0-Messung . Erste unabhängige Tests auf einer RTX 5090 mit llama.cpp zeigen manchmal niedrigere Werte (z. B. ~137 Tok/s), was darauf hindeutet, dass die 233+ Tok/s bestimmte Optimierungen erfordern .

Agentische Fähigkeiten

Muse Glimmer ist in erster Linie kein Chatbot – es ist ein lokaler KI-Agent, der für autonome Workflows entwickelt wurde . Meta hat es explizit darauf abgestimmt, zu planen, Werkzeuge zu nutzen und aus eigenen Fehlern zu lernen . Es unterstützt nativ das Model Context Protocol (MCP) und integriert sich in gängige Agenten-Frameworks .

Zu den wichtigsten Anwendungsfällen gehören: Funktionsaufrufe, lokales Coden, lange Tool-Nutzungssitzungen, LLM-als-Richter-Evaluierung, Dokumentenanalyse und persönliche Assistenten .

Benchmark-Leistung im Vergleich

Meta hat direkte Vergleiche mit Googles Gemma 4 31B und Alibabas Qwen 3.6 27B (beide im Thinking/Reasoning-Modus) veröffentlicht :

Benchmark	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Was wird getestet
MCP Atlas (Öffentlich)	75,5	54,2	62,5	Mehrfach-Nutzung von 20+ MCP-Servern
DeepSearch QA	74,6	61,7	71,1	Autonome Web-Recherche
SWE-Bench Pro	51,2	36,9	50,2	Anspruchsvolle Repository-Level-Softwareaufgaben
SWE-Bench Verified	76,0	66,6	77,2	Verifizierte Programmieraufgaben
AIME 2026 (Mathe)	94,7	89,2	94,1	Mathematisches Denken
τ³-Banking (Agentisch)	23,5	15,1	16,7	Agentische Bankaufgaben
OSWorld-Verified	65,9	58,5	75,6	Desktop-Betriebssystem-Automation
Terminal-Bench 2.1	51,7	43,4	60,7	Terminal-/Systemarbeit

Muse Glimmer führt bei den meisten agentischen Benchmarks, einschließlich MCP Atlas (75,5 vs. 62,5 für Qwen) und DeepSearch QA (74,6 vs. 71,1) . Es erreicht ebenfalls 94,7 bei AIME 2026 und liegt damit vor beiden Mitbewerbern .

Einschränkung: Eine externe Analyse stellt fest, dass Glimmer bei TerminalBench 2.1 (51,7 vs. 60,7) und OSWorld-Verified (65,9 vs. 75,6) hinter Qwen 3.6 27B zurückbleibt und dazu neigt, bestimmte OS-Automatisierungsaufgaben zu verweigern .

Destillation aus Muse Spark

Muse Glimmer wurde aus Muse Spark (Metas größerem, geschlossenem Frontier-Modell) destilliert, und zwar mittels Logit-Destillation während des Pre-Trainings, gefolgt von überwachtem Feintuning und RLHF . Muse Spark selbst bleibt geschlossen – nur als gehostete API verfügbar –, was Glimmer zur Open-Weight-Destillation für Nutzer macht, die eine lokale Bereitstellung wünschen . Meta hat angedeutet, dass eine offene Veröffentlichung von Muse Spark folgen könnte .

Strategischer Kontext: Superintelligenz für alle

Muse Glimmer ist das bislang klarste Produkt von Mark Zuckerbergs Vision einer "persönlichen Superintelligenz" – leistungsstarke KI, die lokal auf persönlichen Geräten läuft, ohne Cloud-Kosten, Abonnementgebühren oder Datenverlassen des Geräts . TechCrunch nannte es "das bisher klarste Bild" dieser Vision .

Die Veröffentlichung erfolgt nach monatelangen internen Turbulenzen nach dem enttäuschenden Start von Llama 4 im Frühjahr 2026, nach dem Meta seine Open-Weight-KI-Strategie aufgegeben zu haben schien. Muse Glimmer eröffnet diese Strategie neu .

Die 14,3-Milliarden-Dollar-Investition in Scale AI

Im Juni 2025 investierte Meta 14,3 Milliarden Dollar in das Datenlabeling-Unternehmen Scale AI und erwarb einen Anteil von ~49 % . Der Deal brachte den 28-jährigen CEO von Scale, Alexandr Wang, an die Spitze von Metas neuer "Superintelligence"-Abteilung . Die Investition zielte darauf ab, hochwertige Trainingsdaten und Talente für die Muse-Modellfamilie zu sichern . CNBC berichtete im Januar 2026, dass Wang Metas TBD-KI-Einheit leitete, die einen Nachfolger für Llama mit dem Codenamen Avocado entwickelte .

Verfügbarkeit und Tag-0-Support

Muse Glimmer kann von Hugging Face unter meta-models/Muse-Glimmer-30B mit der Apache-2.0-Lizenz heruntergeladen werden . Es gibt Tag-0-Unterstützung in:

• Ollama – mit einem einzigen Befehl lokal ausführen
• LM Studio – für lokale GUI-basierte Inferenz
• SGLang – 230+ Tok/s auf RTX 5090
• llama.cpp – Community-GGUF-Konvertierungen am Tag der Veröffentlichung verfügbar
• NVIDIA NIM – Optimierte Inferenz über NVIDIAs Microservice-Framework
• AMD ROCm – Offizielle Unterstützung für Ryzen AI Max und Radeon-GPUs

Erste Community-Berichte zeigen, dass sogar eine RTX 3090 (24 GB) das Q4_K_XL-quantisierte Modell mit DFlash und einem 262K-Kontextfenster mit etwa 22-23 GB VRAM ausführen kann .