Meta 的 Muse Glimmer：300 億參數開放權重 AI 模型，單張消費級 GPU 即可離線運行

在 2026 年 8 月 10 日，Meta 超級智慧實驗室（Meta Superintelligence Labs）發布了 Muse Glimmer——一個約 296 億參數的開放權重 AI 模型，可在單張消費級 GPU 上完全運作，無需任何雲端連線 。這是 Meta 一年多來首次發布開放權重模型，標誌著在令人失望的 Llama 4 推出後，重返其開放原始碼 AI 的路線 。

關鍵規格

Muse Glimmer 是密集因果變換器（非專家混合模型），配備一個專用的約 18 億參數 ViT-G/14 感知編碼器，用於多模態輸入 。它擁有 52 層、隱藏維度 6,656、32 個查詢頭，採用 16:1 分組查詢注意力模式 。

規格	細節
總參數	~296 億（278 億語言模型 + ~18 億視覺編碼器）
脈絡視窗	131,072+ tokens（部分配置可達 262K）
多模態輸入	文字 + 圖片（經由專用感知編碼器）
授權條款	Apache 2.0——允許商業使用、修改和再發布
離線／本地	完全在單張消費級 GPU 或 Mac 上運行——無需雲端
知識截止日	2026 年 1 月 4 日
訓練資料	涵蓋超過 100 種語言

完整精度模型需要約 55 GB 的 VRAM，但 Meta 提供了4 位元量化版本，將模型壓縮至 20 GB 以下 。

量化 VRAM 變體

Meta 提供了兩種量化的發布配置，均採用 K-Quant 技術，並在 15 項基準測試中進行了評估 ：

• K-Quant-Dynamic——目標約 32 GB VRAM，相較於完整精度僅有 0.2% 的平均基準衰退
• K-Quant-17GB——目標約 24 GB VRAM（模型低於 20 GB），平均衰退 1.0%

獨立實驗室尚未重現這些整體衰退數據 。

DFlash 投機解碼與本地吞吐量

為了解決在本地運行 300 億參數模型的延遲問題，Meta 為 Muse Glimmer 搭配了 DFlash——一個小型五層投機解碼草稿模型，可一次提出16 個 tokens 的區塊，再由主模型進行平行驗證 。

Meta 報告了在 17 GB 量化模型、批次大小為 1 且使用貪婪解碼時的吞吐量 ：

硬體	基線 (tok/s)	搭配 DFlash (tok/s)	加速倍率
NVIDIA RTX 5090	74.9	233.4	3.1 倍
Apple M5 Max	26.6	50.2	1.9 倍
Apple M4 Max	23.7	37.8	1.6 倍

SGLang 在另一個針對相同 RTX 5090 硬體的獨立測試中，報告了 236.4 tok/s 的成績 。早期在 RTX 5090 上使用 llama.cpp 的獨立測試有時會得出較低的數字（例如，約 137 tok/s），這表明 233+ tok/s 的數據需要特定的優化才能達成 。

代理能力

Muse Glimmer 主要不是一個聊天機器人——它是一個本地 AI 代理，專為自主工作流程而設計 。Meta 明確對其進行了調整，使其能夠規劃、呼叫工具，並從自身錯誤中恢復 。它原生支援模型上下文協定（MCP），並可與主流代理框架整合 。

主要應用案例包括：函數呼叫、本地程式碼編寫、長時間工具使用會話、以 LLM 作為評判（LLM-as-a-judge）、文件分析和個人助理 。

基準測試表現 vs. 競品

Meta 發布了與 Google 的 Gemma 4 31B 和 阿里巴巴的 Qwen 3.6 27B（均處於思考/推理模式）的直接比較結果 ：

基準測試項目	Muse Glimmer 30B	Gemma 4 31B	Qwen 3.6 27B	測試內容
MCP Atlas (公開版)	75.5	54.2	62.5	多輪使用 20+ 個 MCP 伺服器
DeepSearch QA	74.6	61.7	71.1	自主網路研究
SWE-Bench Pro	51.2	36.9	50.2	困難的儲存庫級軟體任務
SWE-Bench Verified	76.0	66.6	77.2	已驗證的程式碼任務
AIME 2026（數學推理）	94.7	89.2	94.1	數學推理
τ³-Banking（代理）	23.5	15.1	16.7	代理銀行業務任務
OSWorld-Verified	65.9	58.5	75.6	桌面作業系統自動化
Terminal-Bench 2.1	51.7	43.4	60.7	終端機／系統工作

Muse Glimmer 在大多數代理基準測試中領先，包括 MCP Atlas（75.5 對 Qwen 的 62.5）和 DeepSearch QA（74.6 對 71.1）。它在 AIME 2026 上也獲得 94.7 分，領先所有競爭對手 。

注意事項： 第三方分析指出，Glimmer 在 TerminalBench 2.1（51.7 對 60.7）和 OSWorld-Verified（65.9 對 75.6）上落後於 Qwen 3.6 27B，並且傾向於拒絕某些作業系統層級的自動化任務 。

從 Muse Spark 蒸餾

Muse Glimmer 是從 Muse Spark（Meta 更大、封閉源碼的前沿模型）透過預訓練期間的 logit 蒸餾，再經過監督式微調和 RLHF 而成 。Muse Spark 本身仍保持封閉——僅作為託管 API 提供——這使得 Glimmer 成為希望本地部署的用戶的開放權重蒸餾版 。Meta 已暗示未來可能會開放 Muse Spark 。

戰略背景：為每個人打造的超級智慧

Muse Glimmer 是馬克·祖克柏「個人超級智慧」願景最明確的產物——強大的 AI 在個人裝置上本地運行，不受雲端成本、訂閱費用或數據離開裝置的困擾 。TechCrunch 稱其為該願景「迄今為止最清晰的圖景」。

此次發布是在 Llama 4 於 2026 年春季令人失望的推出後，歷經數月內部動盪之後到來，當時 Meta 似乎已放棄開放權重 AI。Muse Glimmer 重新開啟了這項策略 。

143 億美元的 Scale AI 投資

2025 年 6 月，Meta 向數據標註公司 Scale AI 投資了 143 億美元，獲得約 49% 的股份 。這筆交易將 Scale 年僅 28 歲的 CEO 亞歷山大·王 引入 Meta，領導其新的「超級智慧」部門 。該投資旨在為 Muse 模型系列確保高品質的訓練數據和人才 。CNBC 在 2026 年 1 月報導，Wang 正在領導 Meta 的 TBD AI 部門，該部門正在建立一個代號為 Avocado 的 Llama 後繼模型 。

取得與首日支援

Muse Glimmer 可從 Hugging Face 的 meta-models/Muse-Glimmer-30B 下載，採用 Apache 2.0 授權 。它獲得了以下平台的首日支援：

• Ollama — 可透過單一指令在本地下載並運行
• LM Studio — 支援本地圖形化介面推理
• SGLang — 在 RTX 5090 上可達 230+ tok/s
• llama.cpp — 社群在發布當日即提供 GGUF 轉換版本
• NVIDIA NIM — 透過 NVIDIA 的微服務框架提供優化推理
• AMD ROCm — 官方支援 Ryzen AI Max 和 Radeon GPU

早期的社群報告顯示，即使是 RTX 3090（24 GB），也能在 Q4_K_XL 量化模型下，搭配 DFlash 和 262K 脈絡視窗運行，僅使用約 22-23 GB 的 VRAM 。