Muse Glimmer Meta: Model AI 30B Parameter Berat Terbuka Yang Berjalan Sepenuhnya Pada GPU Pengguna Tunggal

Pada 10 Ogos 2026, Meta Superintelligence Labs melancarkan Muse Glimmer — model AI berat terbuka ~29.6 bilion parameter yang berjalan sepenuhnya pada satu GPU pengguna biasa, tanpa memerlukan sebarang sambungan awan . Ia merupakan keluaran berat terbuka pertama Meta dalam tempoh lebih setahun, menandakan kembalinya kepada akar AI sumber terbuka selepas pelancaran Llama 4 yang mengecewakan .

Spesifikasi Utama

Muse Glimmer ialah pengubah berjujukan kausal padat (bukan Mixture-of-Experts) dengan pengekod persepsi ViT-G/14 khusus ~1.8B parameter untuk input multimodal . Ia mempunyai 52 lapisan, dimensi tersembunyi 6,656, dan 32 kepala pertanyaan dengan corak Perhatian Berkumpulan 16:1 .

Spesifikasi	Butiran
Jumlah parameter	~29.6B (27.8B model bahasa + ~1.8B pengekod penglihatan)
Tetingkap konteks	131,072+ token (sehingga 262K dalam beberapa konfigurasi)
Input multimodal	Teks + imej melalui pengekod persepsi khusus
Lesen	Apache 2.0 — membenarkan penggunaan komersial, pengubahsuaian, dan pengedaran semula
Luar talian/tempatan	Berjalan sepenuhnya pada satu GPU pengguna atau Mac — tiada awan diperlukan
Tarikh potong pengetahuan	4 Januari 2026
Data latihan	Merangkumi lebih daripada 100 bahasa

Model ketepatan penuh memerlukan ~55 GB VRAM, tetapi Meta menghantarnya dengan kuantisasi 4-bit yang memampatkan model kepada bawah 20 GB .

Varian VRAM Terkuantisasi

Meta menghantar dua konfigurasi keluaran terkuantisasi, kedua-duanya dibina dengan K-Quant dan diukur pada 15 penanda aras :

• K-Quant-Dynamic — menyasarkan ~32 GB VRAM, dengan hanya 0.2% purata degradasi penanda aras berbanding ketepatan penuh
• K-Quant-17GB — menyasarkan ~24 GB VRAM (model di bawah 20 GB), dengan 1.0% purata degradasi

Makmal bebas belum lagi menghasilkan semula tuntutan degradasi agregat ini .

DFlash Speculative Decoding & Throughput Tempatan

Untuk menyelesaikan masalah kependaman menjalankan model 30B setempat, Meta menggandingkan Muse Glimmer dengan DFlash — drafter decoding spekulatif lima lapisan kecil yang mencadangkan blok 16 token sekaligus, yang kemudian disahkan oleh model utama secara selari .

Meta melaporkan throughput berikut pada model terkuantisasi 17 GB pada saiz kumpulan 1 dengan decoding tamak :

Perkakasan	Garis dasar (tok/s)	Dengan DFlash (tok/s)	Peningkatan
NVIDIA RTX 5090	74.9	233.4	3.1x
Apple M5 Max	26.6	50.2	1.9x
Apple M4 Max	23.7	37.8	1.6x

SGLang melaporkan 236.4 tok/s pada perkakasan RTX 5090 yang sama dalam pengukuran hari-0 yang berasingan . Ujian bebas awal pada RTX 5090 dengan llama.cpp kadangkala melaporkan nombor yang lebih rendah (cth., ~137 tok/s), menunjukkan bahawa angka 233+ tok/s memerlukan pengoptimuman khusus .

Keupayaan Ejen

Muse Glimmer bukan terutamanya chatbot — ia adalah ejen AI tempatan yang direka untuk aliran kerja autonomi . Meta secara eksplisit menalanya untuk merancang, memanggil alat, dan pulih daripada kesilapannya sendiri . Ia menyokong Protokol Konteks Model (MCP) secara asli dan berintegrasi dengan rangka kerja ejen popular .

Kes penggunaan utama termasuk: panggilan fungsi, pengekodan tempatan, sesi penggunaan alat yang panjang, penilaian LLM-sebagai-hakim, analisis dokumen, dan pembantu peribadi .

Prestasi Penanda Aras vs. Rakan Sebaya

Meta menerbitkan perbandingan langsung dengan Gemma 4 31B Google dan Qwen 3.6 27B Alibaba (kedua-duanya dalam mod pemikiran/penaakulan) :

Penanda Aras	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	Apa yang diuji
MCP Atlas (Awam)	75.5	54.2	62.5	Penggunaan berbilang pusingan 20+ pelayan MCP
DeepSearch QA	74.6	61.7	71.1	Penyelidikan web autonomi
SWE-Bench Pro	51.2	36.9	50.2	Tugas perisian peringkat repositori sukar
SWE-Bench Disahkan	76.0	66.6	77.2	Tugas pengekodan yang disahkan
AIME 2026 (penaakulan matematik)	94.7	89.2	94.1	Penaakulan matematik
τ³-Banking (ejen)	23.5	15.1	16.7	Tugas perbankan ejen
OSWorld-Disahkan	65.9	58.5	75.6	Automasi OS desktop
Terminal-Bench 2.1	51.7	43.4	60.7	Kerja terminal/sistem

Muse Glimmer mendahului kebanyakan penanda aras ejen, termasuk MCP Atlas (75.5 vs. 62.5 untuk Qwen) dan DeepSearch QA (74.6 vs. 71.1) . Ia juga mendapat skor 94.7 pada AIME 2026, mendahului kedua-dua pesaing .

Amaran: Satu analisis pihak ketiga menyatakan bahawa Glimmer ketinggalan di belakang Qwen 3.6 27B pada TerminalBench 2.1 (51.7 vs. 60.7) dan OSWorld-Disahkan (65.9 vs. 75.6), dan mempunyai kecenderungan untuk menolak tugas automasi peringkat OS tertentu .

Penyulingan daripada Muse Spark

Muse Glimmer telah disuling daripada Muse Spark (model sempadan sumber tertutup Meta yang lebih besar) menggunakan penyulingan logit semasa pra-latihan, diikuti dengan penalaan halus terselia dan RLHF . Muse Spark sendiri kekal tertutup — hanya tersedia sebagai API yang dihoskan — menjadikan Glimmer sebagai penyulingan berat terbuka untuk pengguna yang mahukan penggunaan tempatan . Meta telah menunjukkan bahawa keluaran terbuka Muse Spark mungkin menyusul .

Konteks Strategik: Superintelligence untuk Semua

Muse Glimmer ialah produk paling jelas setakat ini daripada visi Mark Zuckerberg tentang "superintelligence peribadi" — AI berkuasa berjalan secara tempatan pada peranti peribadi, bebas daripada kos awan, yuran langganan, atau data meninggalkan peranti . TechCrunch menyebutnya "gambaran paling jelas" tentang visi itu .

Keluaran ini menyusul bulan-bulan pergolakan dalaman selepas pelancaran Llama 4 yang mengecewakan pada musim bunga 2026, selepas itu Meta kelihatan meninggalkan AI berat terbuka. Muse Glimmer membuka semula strategi itu .

Pelaburan $14.3B Scale AI

Pada Jun 2025, Meta melabur $14.3 bilion dalam firma pelabelan data Scale AI, memperoleh ~49% pegangan . Perjanjian itu membawa CEO Scale AI yang berusia 28 tahun, Alexandr Wang, untuk mengetuai divisyen "Superintelligence" baharu Meta . Pelaburan itu bertujuan untuk mendapatkan data latihan berkualiti tinggi dan bakat untuk keluarga model Muse . CNBC melaporkan pada Januari 2026 bahawa Wang mengetuai unit AI TBD Meta yang membina pengganti kepada Llama, dengan nama kod Avocado .

Ketersediaan dan Sokongan Hari-0

Muse Glimmer boleh dimuat turun dari Hugging Face di meta-models/Muse-Glimmer-30B di bawah lesen Apache 2.0 . Ia mempunyai sokongan hari-0 dalam:

• Ollama — tarik dan jalankan secara tempatan dengan satu arahan
• LM Studio — disokong untuk inferens GUI tempatan
• SGLang — 230+ tok/s pada RTX 5090
• llama.cpp — penukaran GGUF komuniti tersedia pada hari yang sama
• NVIDIA NIM — inferens dioptimumkan melalui rangka kerja perkhidmatan mikro NVIDIA
• AMD ROCm — sokongan rasmi untuk Ryzen AI Max dan GPU Radeon

Laporan komuniti awal menunjukkan bahawa walaupun RTX 3090 (24 GB) boleh menjalankan model terkuantisasi Q4_K_XL dengan DFlash dan tetingkap konteks 262K menggunakan kira-kira 22-23 GB VRAM .