Google AI Edge 登陸 macOS：Gallery 玩樂場、Gemma 4 12B 模型、Eloquent 聽寫，一次過睇晒

2026 年 6 月 3 號，Google 一口氣推出咗三款專為 macOS 而設嘅裝置端 AI 產品——AI Edge Gallery、Gemma 4 12B 模型，同埋 AI Edge Eloquent——砌成一個經過精心策劃嘅本地 AI 生態圈，直接同 Ollama、LM Studio 呢啲已經企穩陣腳嘅平台競爭 。

呢次發布嘅重點唔單止係出新軟件咁簡單，更加係 Google 嘅一次戰略部署，想將一個打磨得好靚、合乎消費者要求嘅體驗帶入本地 AI 世界，之但係用嘅係一種相對封閉、有人形容為「牆內花園」嘅玩法 。

Google AI Edge Gallery：一個精心挑選嘅本地 AI 玩樂場

AI Edge Gallery 係一個開源嘅互動 App，畀 Mac 用家可以直接喺自己部機上面行 Google 嘅 Gemma 模型，全程靠 Apple Silicon 嚟做運算 。呢個 App 嘅定位係裝置端 AI 嘅展示平台，入面有預設嘅使用範例、透明嘅效能指標，仲有連去技術文件嘅直接連結，基本上係開發人員嘅一個起跳台 。佢其中一個殺手鐧係可以即時產生同執行指令碼——例如做數據分析嗰陣——直接喺個 App 入面搞掂 。

呢個應用程式已經登陸 macOS、iOS 同 Android，但 macOS 版本突顯咗一個好獨特嘅模型策展策略 。同 Ollama、LM Studio 嗰種開放式嘅模型庫好唔同，佢哋畀用家幾乎乜嘢相容模型都可以下載嚟用，但 macOS 版嘅 AI Edge Gallery 暫時淨係得 五款由 Google 策展嘅 Gemma 模型 。根據《9to5Mac》嘅報導，可以揀嘅模型包括 Gemma-4-12B-it、Gemma-4-E2B-it、Gemma-4-E4B-it、一款 Gemma-4 26B 變體，同埋 FunctionGemma-270M 。呢個由官方親手揀嘅名單，正正就係 Google 策略嘅核心：一個受控制、品質有保證嘅環境 。

背後引擎：LiteRT-LM 嘅效能表現

成個生態圈背後嘅引擎係 Google 嘅 LiteRT-LM 推論引擎。佢支援 CPU、GPU 同 NPU 後端，涵蓋 Linux、macOS 同 Windows 。用嚟做效能基準測試嘅主打模型係 Gemma-4-E2B（2.58 GB），官方文件清楚展示咗佢喺 MacBook Pro M4 上面嘅實力 ：

• CPU：每秒 901 個 token，42 MB 記憶體，第一個 token 嘅延遲時間 1.1 秒，峰值記憶體用量 736 MB 。
• GPU（Metal）：每秒 7,835 個 token，160 MB 記憶體，第一個 token 嘅延遲時間 0.1 秒，峰值記憶體用量 1,623 MB 。

用咗 GPU 加速之後速度提升極之驚人，突顯咗 Google 呢套技術堆疊係幾咁針對 Apple Silicon 嘅 Metal API 做咗最佳化，先可以做到近乎即時反應、咁流暢嘅用戶體驗。

Gemma 4 12B：冇編碼器嘅多模態性能怪獸

呢次發布嘅主角係 Gemma 4 12B，用嘅係 Apache 2.0 授權條款 。佢嘅架構本身就係最大嘅與別不同之處。佢係一個 密集、純解碼器嘅 Transformer，用緊同大佢好多嘅 Gemma 4 31B Dense 模型一樣嘅先進解碼器結構 。

最關鍵嘅創新，就係佢嗰種 冇編碼器嘅多模態設計。市面上大多數多模態模型都會用獨立又大份嘅編碼器嚟處理視覺（例如 ViT）同音頻（例如 conformer 層），將數據轉譯畀語言模型 。Gemma 4 12B 就索性將佢哋全部拎走 。取而代之嘅係：

• 視覺：一個輕量級、得 3,500 萬參數嘅嵌入器，取代咗嗰 27 層嘅視覺 Transformer。原始嘅 48x48 像素區塊，就咁通過一次矩陣乘法直接投射到大型語言模型嘅嵌入空間，然後再用一種分解式坐標查找嘅方法，將空間位置資訊黐上去 。
• 音頻：原始音頻訊號直接投射到同文字 token 一樣嘅嵌入空間，唔使再用獨立嘅音頻編碼器 。

呢種設計令個模型可以原生噉處理 文字、圖像、音頻同影片，融匯喺單一嘅流程入面 。Google 聲稱呢個架構可以「用少過一半嘅記憶體，就做到接近我哋 26B MoE 模型嘅效能」，而且仲可以喺得 16 GB 統一記憶體嘅消費級筆電上面運行 。

跑分成績都印證咗呢份信心，顯示呢個 12B 模型嘅表現遠超佢嘅量級。喺 GPQA Diamond（研究生級別推理）入面，佢攞到 78.8 嘅高分，同 26B 變體好接近。喺學術型多項選擇題基準測試 MMLU Pro 就攞到 77.2%，而喺競爭性數學基準測試 AIME 2026 就攞到 77.5% 。喺測試程式碼生成能力嘅 LiveCodeBench 入面，佢攞到 72.5% 嘅分數，展示咗喺智能代理工作流程同多步驟推理方面嘅穩健實用能力 。

AI Edge Eloquent：免費、離線、打磨過嘅聽寫工具

組成呢個產品鐵三角嘅最後一塊，就係 Google AI Edge Eloquent。呢個聽寫 App 嘅定位係收費轉錄服務嘅直接、免費替代品 。個 App 係由 Gemma 模型驅動，設計上係完全離線優先 。

佢唔單止係轉錄咁簡單，更加擔當住一個自動執靚講嘢內容嘅角色。佢會「好進取咁刪走」「er」、「啊」呢類贅字，即時修正文法，仲會將雜亂無章嘅原始語音重組做連貫、專業嘅文字 。咁樣令佢更加似一個溝通工具，而唔係純粹嘅筆記 App。最關鍵嘅差異化賣點係價錢牌：冇月費，亦冇用量上限 。macOS 版本要求 macOS 13.0 或以上，同埋 Apple M1 晶片或以上，不過 App Store 頁面都提到，某啲進階嘅可選功能可能需要用到雲端處理 。

策略對比：「牆內花園」vs 開放式模型庫

呢次發布確立咗兩種本地 AI 嘅對立理念。Google 嘅策略係一種 「牆內花園」玩法：一個經過策展、由 Google 認可嘅模型組合，緊密整合咗品牌自家嘅第一方 App（Gallery 用嚟探索、Eloquent 用嚟聽寫），仲有一個統一嘅推論引擎（LiteRT-LM）配埋命令列同 Python API 。佢哋嘅目標係提供一個一裝好就「乜都郁得」、順暢嘅消費者級體驗。

呢種玩法同 Ollama、LM Studio 形成直接對比。佢哋嘅優先次序係將最大嘅靈活性同選擇權擺第一，作為一個開放式嘅模型庫，畀用家下載任何相容嘅模型嚟用 。值得留意嘅係，Ollama 同 LM Studio 都已經支援開源權重嘅 Gemma 4 12B 模型，所以 Google 嘅模型並唔係佢哋呢個技術棧獨家先用得 。

Google 嘅優勢在於第一方最佳化，佢哋嘅自家模型係專門針對佢哋嘅推論引擎同 Apple Silicon 做咗調校，所以有更好嘅效能同更低嘅記憶體用量。對用家嚟講，箇中取捨好清楚：你確實會得到一個更精緻、整合度更高嘅體驗，但你唔可以運行 Google 策展嘅 Gemma 系列以外嘅模型。呢種定位，令 Google 可以吸納嗰班比起實驗自由，更加睇重可靠性同易用程度嘅用家，亦為本地 AI 喺 Mac 上面嘅發展，開咗一條好唔同嘅分岔路出嚟。