呢個應用程式已經登陸 macOS、iOS 同 Android,但 macOS 版本突顯咗一個好獨特嘅模型策展策略 。同 Ollama、LM Studio 嗰種開放式嘅模型庫好唔同,佢哋畀用家幾乎乜嘢相容模型都可以下載嚟用,但 macOS 版嘅 AI Edge Gallery 暫時淨係得 五款由 Google 策展嘅 Gemma 模型
。根據《9to5Mac》嘅報導,可以揀嘅模型包括 Gemma-4-12B-it、Gemma-4-E2B-it、Gemma-4-E4B-it、一款 Gemma-4 26B 變體,同埋 FunctionGemma-270M
。呢個由官方親手揀嘅名單,正正就係 Google 策略嘅核心:一個受控制、品質有保證嘅環境
。
成個生態圈背後嘅引擎係 Google 嘅 LiteRT-LM 推論引擎。佢支援 CPU、GPU 同 NPU 後端,涵蓋 Linux、macOS 同 Windows 。用嚟做效能基準測試嘅主打模型係 Gemma-4-E2B(2.58 GB),官方文件清楚展示咗佢喺 MacBook Pro M4 上面嘅實力
:
用咗 GPU 加速之後速度提升極之驚人,突顯咗 Google 呢套技術堆疊係幾咁針對 Apple Silicon 嘅 Metal API 做咗最佳化,先可以做到近乎即時反應、咁流暢嘅用戶體驗。
呢次發布嘅主角係 Gemma 4 12B,用嘅係 Apache 2.0 授權條款 。佢嘅架構本身就係最大嘅與別不同之處。佢係一個 密集、純解碼器嘅 Transformer,用緊同大佢好多嘅 Gemma 4 31B Dense 模型一樣嘅先進解碼器結構
。
最關鍵嘅創新,就係佢嗰種 冇編碼器嘅多模態設計。市面上大多數多模態模型都會用獨立又大份嘅編碼器嚟處理視覺(例如 ViT)同音頻(例如 conformer 層),將數據轉譯畀語言模型 。Gemma 4 12B 就索性將佢哋全部拎走
。取而代之嘅係:
呢種設計令個模型可以原生噉處理 文字、圖像、音頻同影片,融匯喺單一嘅流程入面 。Google 聲稱呢個架構可以「用少過一半嘅記憶體,就做到接近我哋 26B MoE 模型嘅效能」,而且仲可以喺得 16 GB 統一記憶體嘅消費級筆電上面運行
。
跑分成績都印證咗呢份信心,顯示呢個 12B 模型嘅表現遠超佢嘅量級。喺 GPQA Diamond(研究生級別推理)入面,佢攞到 78.8 嘅高分,同 26B 變體好接近。喺學術型多項選擇題基準測試 MMLU Pro 就攞到 77.2%,而喺競爭性數學基準測試 AIME 2026 就攞到 77.5% 。喺測試程式碼生成能力嘅 LiveCodeBench 入面,佢攞到 72.5% 嘅分數,展示咗喺智能代理工作流程同多步驟推理方面嘅穩健實用能力
。
組成呢個產品鐵三角嘅最後一塊,就係 Google AI Edge Eloquent。呢個聽寫 App 嘅定位係收費轉錄服務嘅直接、免費替代品 。個 App 係由 Gemma 模型驅動,設計上係完全離線優先
。
佢唔單止係轉錄咁簡單,更加擔當住一個自動執靚講嘢內容嘅角色。佢會「好進取咁刪走」「er」、「啊」呢類贅字,即時修正文法,仲會將雜亂無章嘅原始語音重組做連貫、專業嘅文字 。咁樣令佢更加似一個溝通工具,而唔係純粹嘅筆記 App。最關鍵嘅差異化賣點係價錢牌:冇月費,亦冇用量上限
。macOS 版本要求 macOS 13.0 或以上,同埋 Apple M1 晶片或以上,不過 App Store 頁面都提到,某啲進階嘅可選功能可能需要用到雲端處理
。
呢次發布確立咗兩種本地 AI 嘅對立理念。Google 嘅策略係一種 「牆內花園」玩法:一個經過策展、由 Google 認可嘅模型組合,緊密整合咗品牌自家嘅第一方 App(Gallery 用嚟探索、Eloquent 用嚟聽寫),仲有一個統一嘅推論引擎(LiteRT-LM)配埋命令列同 Python API 。佢哋嘅目標係提供一個一裝好就「乜都郁得」、順暢嘅消費者級體驗。
呢種玩法同 Ollama、LM Studio 形成直接對比。佢哋嘅優先次序係將最大嘅靈活性同選擇權擺第一,作為一個開放式嘅模型庫,畀用家下載任何相容嘅模型嚟用 。值得留意嘅係,Ollama 同 LM Studio 都已經支援開源權重嘅 Gemma 4 12B 模型,所以 Google 嘅模型並唔係佢哋呢個技術棧獨家先用得
。
Google 嘅優勢在於第一方最佳化,佢哋嘅自家模型係專門針對佢哋嘅推論引擎同 Apple Silicon 做咗調校,所以有更好嘅效能同更低嘅記憶體用量。對用家嚟講,箇中取捨好清楚:你確實會得到一個更精緻、整合度更高嘅體驗,但你唔可以運行 Google 策展嘅 Gemma 系列以外嘅模型。呢種定位,令 Google 可以吸納嗰班比起實驗自由,更加睇重可靠性同易用程度嘅用家,亦為本地 AI 喺 Mac 上面嘅發展,開咗一條好唔同嘅分岔路出嚟。
Comments
0 comments