Meta Muse Glimmer 30B：一張消費級顯示卡就搞得掂嘅本地AI模型

主要規格一覽

Muse Glimmer 係一個 密集因果轉換器（Dense Causal Transformer），唔係混合專家模型（MoE），佢內置一個約 18 億參數嘅 ViT-G/14 感知編碼器嚟處理圖像輸入 。

壓縮版本同 VRAM 需求

完整精度嘅模型大約需要用 55 GB VRAM，但 Meta 用 4-bit 量化 將模型壓縮到唔夠 20 GB 。

Meta 推出兩個量化版本，都係用 K-Quant 技術，針對 15 個基準測試 ：

• K-Quant-Dynamic——目標 ~32 GB VRAM，同完整精度相比平均退化只有 0.2%
• K-Quant-17GB——目標 ~24 GB VRAM（模型唔夠 20 GB），平均退化 1.0%

不過，獨立實驗室仲未重複驗證到呢啲退化數據 。

DFlash 推測解碼：本地運算嘅加速器

為咗解決喺本地運行 300 億參數模型嘅 latency 問題，Meta 將 Muse Glimmer 配備咗 DFlash——一個得五層嘅推測解碼器，可以一次過提議 16 個 tokens，然後主模型並行驗證呢啲提議 。

Meta 報告以下 throughput（17 GB 量化模型，batch size 1，greedy decoding）：

SGLang 喺同一張 RTX 5090 上面量度到 236.4 tok/s 。不過，有獨立用家喺 llama.cpp 上面測試 RTX 5090 時，只係得到大約 ~137 tok/s，顯示要達到 233+ tok/s 需要特定嘅優化設定 。

代理能力：唔係普通 chatbot

Muse Glimmer 主要唔係用嚟傾偈——佢係一個本地 AI 代理，專為自主工作流程而設 。Meta 特別將佢 tune 到可以計劃、叫工具、同埋從錯誤中自我修正 。佢原生支援 Model Context Protocol (MCP)，可以同主流嘅代理框架整合 。

主要用途包括：function calling、本地編碼、長時間嘅工具使用、LLM-as-a-judge 評估、文件分析，同個人助理 。

基準測試表現 VS 對手

Meta 直接同 Google 嘅 Gemma 4 31B 同 Alibaba 嘅 Qwen 3.6 27B（兩者都係用推理模式）做對比 ：

Muse Glimmer 喺大部分代理基準測試上領先，包括 MCP Atlas（75.5 vs Qwen 嘅 62.5）同 DeepSearch QA（74.6 vs 71.1）。喺 AIME 2026 數學推理上佢攞到 94.7，壓過晒兩個對手 。

要留意嘅地方： 有第三方分析指出，Glimmer 喺 TerminalBench 2.1（51.7 vs 60.7）同 OSWorld-Verified（65.9 vs 75.6）上落後 Qwen 3.6 27B，而且佢對某啲 OS 級別嘅自動化任務會有啲抗拒 。

從 Muse Spark 蒸餾出嚟

Muse Glimmer 係從 Muse Spark 蒸餾出嚟嘅——用咗預訓練期間嘅 logit 蒸餾，再加監督式微調同 RLHF 。Muse Spark 本身仍然封閉，只得 API 版本，所以 Glimmer 係開放權重嘅版本，畀想本地部署嘅用家 。Meta 話將來可能會開放 Muse Spark 。

策略背景：人人都可以有超級智能

Muse Glimmer 係 Mark Zuckerberg 所講嘅 「個人超級智能」 vision 嘅最具體體現——即係強大嘅 AI 可以喺個人裝置上本地運行，唔使交雲端費、唔使畀月費、數據唔會離開部機 。TechCrunch 叫佢做「呢個願景目前最清晰嘅藍圖」。

呢次發佈係喺 Llama 4 喺 2026 年春天令人失望之後，Meta 內部經歷咗幾個月動盪之後嘅動作。之前 Meta 好似放棄咗開源 AI 路線，而家 Muse Glimmer 重新打開咗呢個策略 。

143 億美元嘅 Scale AI 投資

2025 年 6 月，Meta 投資咗 143 億美元 喺數據標註公司 Scale AI，攞到大概 49% 嘅股份 。呢單交易帶埋 Scale 當時得 28 歲嘅 CEO Alexandr Wang 過檔嚟 Meta，領導新成立嘅「超級智能」部門 。呢筆投資係為咗確保高質素嘅訓練數據同人才，用嚟開發 Muse 模型系列 。CNBC 喺 2026 年 1 月報道，Wang 正領導 Meta 嘅 TBD AI 部門，緊接 Llama 開發代號為 Avocado 嘅新模型 。

邊度下載同 Day-0 支援

Muse Glimmer 可以喺 Hugging Face 嘅 meta-models/Muse-Glimmer-30B 下載，用 Apache 2.0 授權 。Day-0 已經支援：

• Ollama——一個指令就拉到本地運行
• LM Studio——支援本地 GUI 推理
• SGLang——RTX 5090 上超過 230 tok/s
• llama.cpp——社群 GGUF 轉換版即日有
• NVIDIA NIM——透過 NVIDIA 微服務框架做優化推理
• AMD ROCm——官方支援 Ryzen AI Max 同 Radeon GPU

早期社群報告顯示，就算用一張 RTX 3090（24 GB），都可以用 Q4_K_XL 量化版加 DFlash 同 262K 脈絡長度，VRAM 大約用 22-23 GB 。