一般300億參數嘅模型,如果用全精度BF16運算,大約需要55GB記憶體 。Meta嘅工程師用咗4-bit量化(4-bit quantization)同架構最佳化,將模型嘅記憶體需求大幅降到20GB以下
。換句話講,只要你有張24GB VRAM嘅消費級GPU——例如高階NVIDIA顯示卡或者新款MacBook嘅統一記憶體——就已經夠行
。
Muse Glimmer係「從Muse Spark蒸餾出嚟,專為自動化AI代理任務而設」 。同一般傾偈用嘅模型唔同,Glimmer專攻多步驟推理、可靠嘅工具使用同函數呼叫、子代理協調、本地編碼、多模態感知(文字加圖像輸入),仲有失敗自動恢復——全部喺本地離線執行
。Meta官方博客形容佢係「為長開長用嘅本地代理工作流程而最佳化」
。
因為所有運算都係喺用戶自己部機度做,數據完全唔會離開部機,呢個設計由根本消除咗雲端AI代理嗰啲私隱同延遲取捨 。加上係開源權重,用戶同開發者可以自由檢查、修改、微調模型——呢啲功能,用API閘門嘅模型(好似Muse Spark)係做唔到㗎
。
Muse Glimmer嘅發佈,暴露咗Meta一個精心設計嘅雙軌策略,平衡擴散同賺錢。
Zuckerberg嘅「個人超級智能」概念係:AI知你背景、長開為你工作、由你控制而唔係雲端供應商控制 。Muse Glimmer就係呢個願景嘅具體實踐:一個有能力、本地優先嘅模型,任何人都可以下載、自訂、長開喺自己硬件上。佢實現咗真正私隱、長開長用嘅AI代理,甚至冇網絡都可以運作
。
同一時間,Meta更勁嘅旗艦模型 Muse Spark 繼續保持閉源,只有付費API先用到(Spark 1.1定價為每百萬輸入令牌$1.25,每百萬輸出令牌$4.25) 。Meta雖然承諾幾星期後會開放Spark 1.2嘅權重,但最頂尖嘅版本仍然係私有
。
呢個模式一睇就明:出一個有能力嘅開放模型(Glimmer)去大範圍擴散,建立生態,確立Meta喺本地AI嘅地位;同時保留最頂尖嘅能力(Spark)作為賺錢嘅收費服務 。正如TechCrunch所講,Glimmer「本質上係Meta更強大Muse Spark系列嘅開放版」——對於本地代理嚟講夠用,但又唔會勁到搶走Meta自己API嘅生意
。
Zuckerberg冇話死以後唔開放更勁嘅Spark版本,暗示開放同封閉嘅界線未來會根據競爭同安全考慮而移動 。而家講到明:Meta想畀開發者足夠能力去獨立發展,但最勁嘅AI智能就一定要俾錢先用得到。
Muse Glimmer係本地、私隱優先AI嘅一個重要里程碑。佢證明咗強大嘅AI代理能力——計劃、工具使用、編碼——可以完全喺消費級硬件上離線執行,冇雲端延遲、冇API費用、冇數據外洩風險。對於注重數據主權同營運獨立嘅開發者同企業嚟講,呢個係一個真正可以替代API依賴嘅選擇。對整個行業嚟講,佢揭示咗即使係Meta呢啲大公司,都覺得「廣泛散佈有能力嘅AI」有戰略價值——只係唔會散佈佢哋最勁嗰款模型啫。