Meta Rilis Muse Glimmer: Model AI 30 Miliar Parameter yang Bisa Jalan di GPU Konsumen Biasa

Pada 10 Agustus 2026, Meta Superintelligence Labs merilis Muse Glimmer — model AI open-weight dengan sekitar 29,6 miliar parameter yang dirancang khusus untuk berjalan sepenuhnya di satu GPU konsumen, tanpa memerlukan koneksi cloud sama sekali . Ini adalah rilis open-weight pertama Meta dalam lebih dari setahun, menandai kembalinya perusahaan ke akar AI sumber terbuka setelah peluncuran Llama 4 yang mengecewakan .

Spesifikasi Utama

Muse Glimmer adalah dense causal transformer (bukan Mixture-of-Experts) dengan encoder persepsi ViT-G/14 khusus (~1,8 miliar parameter) untuk input multimodal . Model ini memiliki 52 lapisan, dimensi tersembunyi 6.656, dan 32 kepala kueri dengan pola Grouped Query Attention 16:1 .

Spesifikasi	Detail
Total parameter	~29,6 miliar (27,8 miliar model bahasa + ~1,8 miliar encoder visi)
Jendela konteks	131.072+ token (hingga 262K di beberapa konfigurasi)
Input multimodal	Teks + gambar melalui encoder persepsi khusus
Lisensi	Apache 2.0 — mengizinkan penggunaan komersial, modifikasi, dan redistribusi
Offline/lokal	Berjalan sepenuhnya di satu GPU konsumen atau Mac — tidak perlu cloud
Batas pengetahuan	4 Januari 2026
Data pelatihan	Mencakup lebih dari 100 bahasa

Model presisi penuh membutuhkan ~55 GB VRAM, tetapi Meta menyertakannya dengan kuantisasi 4-bit yang menekan ukuran model hingga di bawah 20 GB .

Varian VRAM Kuantisasi

Meta mengirimkan dua konfigurasi rilis terkuantisasi, keduanya dibangun dengan K-Quant dan diukur pada 15 benchmark :

• K-Quant-Dynamic — menargetkan ~32 GB VRAM, dengan degradasi benchmark rata-rata hanya 0,2% vs. presisi penuh
• K-Quant-17GB — menargetkan ~24 GB VRAM (model di bawah 20 GB), dengan degradasi rata-rata 1,0%

Laboratorium independen belum memverifikasi klaim degradasi agregat ini .

DFlash Speculative Decoding & Performa Lokal

Untuk mengatasi masalah latensi saat menjalankan model 30 miliar parameter secara lokal, Meta memasangkan Muse Glimmer dengan DFlash — drafter speculative-decoding kecil lima lapisan yang mengusulkan blok 16 token sekaligus, yang kemudian diverifikasi oleh model utama secara paralel .

Meta melaporkan throughput berikut pada model kuantisasi 17 GB dengan ukuran batch 1 dan greedy decoding :

Perangkat Keras	Dasar (tok/dtk)	Dengan DFlash (tok/dtk)	Akselerasi
NVIDIA RTX 5090	74,9	233,4	3,1x
Apple M5 Max	26,6	50,2	1,9x
Apple M4 Max	23,7	37,8	1,6x

SGLang melaporkan 236,4 tok/dtk pada perangkat RTX 5090 yang sama dalam pengukuran terpisah di hari pertama . Pengujian independen awal di RTX 5090 dengan llama.cpp terkadang menunjukkan angka yang lebih rendah (misalnya, ~137 tok/dtk), mengindikasikan bahwa angka 233+ tok/dtk memerlukan pengoptimalan khusus .

Kemampuan Agen

Muse Glimmer pada dasarnya bukan chatbot — ia adalah agen AI lokal yang dirancang untuk alur kerja otonom . Meta secara eksplisit menyetelnya untuk merencanakan, memanggil alat, dan memulihkan diri dari kesalahannya sendiri . Model ini mendukung Model Context Protocol (MCP) secara native dan terintegrasi dengan kerangka kerja agen populer .

Kasus penggunaan utama meliputi: pemanggilan fungsi, coding lokal, sesi penggunaan alat yang panjang, evaluasi LLM-sebagai-hakim, analisis dokumen, dan asisten pribadi .

Performa Benchmark vs. Pesaing

Meta menerbitkan perbandingan langsung melawan Google Gemma 4 31B dan Alibaba Qwen 3.6 27B (keduanya dalam mode berpikir/penalaran) :

Benchmark	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Yang Diuji
MCP Atlas (Publik)	75,5	54,2	62,5	Penggunaan multi-putaran dari 20+ server MCP
DeepSearch QA	74,6	61,7	71,1	Riset web otonom
SWE-Bench Pro	51,2	36,9	50,2	Tugas perangkat lunak tingkat repositori yang sulit
SWE-Bench Terverifikasi	76,0	66,6	77,2	Tugas coding terverifikasi
AIME 2026 (penalaran matematika)	94,7	89,2	94,1	Penalaran matematika
τ³-Banking (agen)	23,5	15,1	16,7	Tugas perbankan agen
OSWorld-Terverifikasi	65,9	58,5	75,6	Otomatisasi OS desktop
Terminal-Bench 2.1	51,7	43,4	60,7	Pekerjaan terminal/sistem

Muse Glimmer unggul di sebagian besar benchmark agen, termasuk MCP Atlas (75,5 vs. 62,5 untuk Qwen) dan DeepSearch QA (74,6 vs. 71,1) . Ia juga mencetak 94,7 di AIME 2026, memimpin kedua pesaing .

Catatan: Analisis pihak ketiga mencatat bahwa Glimmer tertinggal dari Qwen 3.6 27B di TerminalBench 2.1 (51,7 vs. 60,7) dan OSWorld-Terverifikasi (65,9 vs. 75,6), serta memiliki kecenderungan menolak tugas otomatisasi OS tertentu .

Distilasi dari Muse Spark

Muse Glimmer didistilasi dari Muse Spark (model frontier tertutup Meta yang lebih besar) menggunakan distilasi logit selama pra-pelatihan, diikuti dengan supervised fine-tuning dan RLHF . Muse Spark sendiri tetap tertutup — hanya tersedia sebagai API yang dihosting — menjadikan Glimmer sebagai distilasi open-weight bagi pengguna yang menginginkan penggunaan lokal . Meta mengindikasikan bahwa rilis terbuka Muse Spark mungkin menyusul .

Konteks Strategis: Superintelligence untuk Semua Orang

Muse Glimmer adalah produk paling jelas dari visi Mark Zuckerberg tentang "superintelligence pribadi" — AI canggih yang berjalan secara lokal di perangkat pribadi, bebas dari biaya cloud, biaya berlangganan, atau data yang meninggalkan perangkat . TechCrunch menyebutnya "gambaran paling jelas" dari visi tersebut .

Rilis ini menyusul gejolak internal berbulan-bulan setelah peluncuran Llama 4 yang mengecewakan pada musim semi 2026, yang membuat Meta tampak meninggalkan AI open-weight. Muse Glimmer membuka kembali strategi itu .

Investasi $14,3 Miliar di Scale AI

Pada Juni 2025, Meta berinvestasi $14,3 miliar di perusahaan pelabelan data Scale AI, mengakuisisi ~49% saham . Kesepakatan itu membawa CEO Scale AI yang berusia 28 tahun, Alexandr Wang, untuk memimpin divisi "Superintelligence" baru Meta . Investasi ini bertujuan mengamankan data pelatihan berkualitas tinggi dan bakat untuk keluarga model Muse . CNBC melaporkan pada Januari 2026 bahwa Wang memimpin unit AI TBD Meta yang membangun penerus Llama, dengan nama kode Avocado .

Ketersediaan dan Dukungan Hari Pertama

Muse Glimmer dapat diunduh dari Hugging Face di meta-models/Muse-Glimmer-30B di bawah lisensi Apache 2.0 . Model ini mendapat dukungan hari pertama di:

• Ollama — tarik dan jalankan secara lokal dengan satu perintah
• LM Studio — didukung untuk inferensi GUI lokal
• SGLang — 230+ tok/dtk di RTX 5090
• llama.cpp — konversi GGUF komunitas tersedia di hari yang sama
• NVIDIA NIM — inferensi optimal melalui kerangka kerja layanan mikro NVIDIA
• AMD ROCm — dukungan resmi untuk Ryzen AI Max dan GPU Radeon

Laporan komunitas awal menunjukkan bahwa bahkan RTX 3090 (24 GB) dapat menjalankan model kuantisasi Q4_K_XL dengan DFlash dan jendela konteks 262K menggunakan sekitar 22-23 GB VRAM .