Framework 即將推出的 Desktop 新配置,針對的是本地 AI 最實際的樽頸:如何在沒有獨立顯示卡的情況下,將大型語言模型完整放入記憶體。系統採用 AMD 16 核心 Ryzen AI Max+ PRO 495,最多配備 192GB 統一 LPDDR5X-8533 記憶體,記憶體頻寬達 273GB/s。另一邊,Microsoft 正在 Windows 11 內部測試一項相關功能,可能令這類統一記憶體系統更容易管理,但功能仍未完成,亦未正式公布。
兩項發展指向同一個趨勢:本地 AI 已不只是處理器速度的競賽,記憶體容量和頻寬同樣重要。不過,這並不代表雲端 AI 會突然被取代。
Framework 192GB Desktop 有甚麼規格?
即將推出的頂級配置採用 AMD Ryzen AI Max+ PRO 495,配備 16 核心、32 線程 Zen 5 CPU、Radeon 整合式圖像處理,以及 XDNA 2 NPU。Framework 列出的規格包括 192GB 統一 LPDDR5X 記憶體和 273GB/s 頻寬。
相比公司較早前採用 Ryzen AI Max+ 395、最高 128GB 記憶體的配置,新機的容量增加 50%;頻寬則由 256GB/s 增至 273GB/s,升幅約 6.6%。
1
2
3
16
CPU 和整合式 GPU 使用同一個實體記憶體池,Framework 表示最多可將 160GB 分配給 iGPU。對本地 LLM 使用者而言,這正是系統最吸引的地方:模型權重可以更多地留在同一部機內,不用在容量有限的獨立 GPU VRAM 和速度較慢的系統記憶體之間拆分。
1
10
當然,統一記憶體並非沒有代價。273GB/s 對一部小型電腦來說已經相當可觀,但仍低於部分高階統一記憶體平台的頻寬。模型「放得入」不代表一定「跑得快」;長上下文、日常桌面程式,甚至多名使用者同時使用,都可能爭奪記憶體頻寬。
可以運行哪些模型?
根據公司預覽內容的報道,Framework 曾展示這部系統本地運行 Q8 量化版本的 DeepSeek V4-Flash,而且仍有空間處理上下文。
7
14 另一篇報道則形容 192GB 配置能夠將約 2,840 億參數的模型放入記憶體,但這應理解為「記憶體容量上容得下」,而不是獨立測試已證實能以實用速度生成內容。
4
量化在這裏相當關鍵。將模型以較低位元數表示,可以減少模型權重所需的記憶體;但實際需求仍取決於模型架構、運行時開銷、上下文窗口,以及同時運行的其他應用程式。
簡單來說:
- 記憶體容量決定模型有沒有機會載入;
- 記憶體頻寬影響模型資料移動的速度;
- 軟件支援和運算能力則決定實際使用是否順暢。
因此,看到 192GB 這個數字,不能直接等同於高生成速度。
Windows 11 的 IntelligentCarveout 有甚麼作用?
Microsoft 據報正在 Windows 11 實驗版本 29648.1000 測試一項內部稱為「IntelligentCarveout」的功能。版本內的文字提到「Reserved memory for accelerators」及「Memory for graphics and AI acceleration」,看起來是讓 Windows 為圖像和 AI 密集型應用預留一部分統一記憶體,而不是完全依靠系統即時動態分配。
33
34
35
對 CPU、GPU 和 AI 工作共用同一個記憶體池的電腦而言,這可能相當實用。當 Windows 應用程式和 LLM 運行環境同時爭用記憶體時,預留區域或可提供較穩定的存取空間,亦有助減少因其他程式佔用資源而導致的分配失敗。
但要留意,IntelligentCarveout 並不是增加 RAM,也不會令記憶體匯流排變快,更不是新的 AI 加速器。被預留的記憶體亦不能供一般應用程式使用;如果分配更多給 AI,Windows 可用的記憶體就會相應減少。Microsoft 尚未確認最終介面、支援的硬件、推出時間,甚至未確認功能一定會正式推出。
36
40
44
Framework 的升級性:機身模組化,但記憶體不能自行更換
Framework Desktop 的定位,是比不少同類迷你電腦更模組化、更容易維修。新配置預計仍會保留開放式 PCIe x4 擴充槽,日後可讓用家加入兼容的擴充硬件。
13
不過,192GB LPDDR5X 記憶體是直接焊接在主機板上的板載記憶體,並非可以自行拔插的 DIMM。換句話說,購買時選定的容量基本上就是固定容量;如果將來需要更大記憶體,通常要更換主機板,而不是像傳統桌面電腦般加插 RAM。
13
Framework 列出 Windows 和 Linux 相關用途,亦提供 Linux 預載選項。
2 但本地推理能否順利運行,仍取決於所選的運行時和加速方案。AMD 平台可以使用 ROCm 或 Vulkan 等軟件堆疊;其他統一記憶體平台則可能以 Apple 的 Metal/MLX,或 NVIDIA 的 CUDA 生態為主。
這些生態並不互通。同一個模型在一個平台能運行,不代表另一個平台一定有相同的運行時、核心程式或優化程度。
19
24
價格和供貨仍是未知數
截至 2026 年 8 月 31 日,Framework 官網仍將 192GB Ryzen AI Max+ PRO 495 Desktop 標示為「即將推出」。公司尚未公布價格、預訂日期、出貨日期,亦未承諾廣泛供貨。
2
10
11
在這些資料公布前,談論性價比或斷言其性能仍然言之尚早。現時看到的是預覽和示範,不是完整的獨立測試。買家仍需等待實際的每秒 token 數、散熱、耗電、模型兼容性,以及長時間負載表現。
6
與其他統一記憶體系統比較
Framework 並非創造了全新的設計,而是加入一條已經逐漸成形的路線。Apple Silicon 多年來都採用 CPU 和 GPU 共用記憶體,部分配置亦提供更高頻寬,例如 M4 Max 配置據報可提供 128GB 記憶體和 546GB/s 頻寬。
17
20
在 Windows 和迷你電腦市場,採用 Ryzen AI Max+ 395 的 GMKtec、Beelink 等品牌亦提供 128GB 共用記憶體方案;NVIDIA DGX Spark 一類產品則以 CUDA 兼容性為主要賣點,同樣瞄準小型、高記憶體容量的 AI 電腦市場。
19
24
對買家而言,真正需要比較的不是單一規格,而是以下幾點:
- **容量:**決定量化模型能否在不大量卸載的情況下放入記憶體;
- **頻寬:**大幅影響推理時搬運模型資料的速度;
- **軟件生態:**決定運行時、核心程式和模型服務工具是否好用;
- **可升級性:**統一 LPDDR5X 通常在購買時已經固定;
- **價格和供貨:**決定一部預覽中的產品是否真的值得買。
本地 AI 的真正轉變:由 NPU 數字轉向記憶體設計
Framework Desktop 最值得留意的規格,未必是 NPU 的 TOPS 數字,而是這個異常大的共享記憶體池。Microsoft 正測試的 Windows 控制功能,也從另一個角度說明同一件事:當 PC 開始本地運行更大型的模型,操作系統如何管理記憶體,會直接影響 AI 使用體驗。
但這不等於本地 PC 將取代雲端推理。統一記憶體迷你電腦適合需要在單一設備上運行模型的使用者,例如重視離線運作或希望避免頻繁把資料送上雲端的人;雲端基礎設施則仍較適合前沿級模型、彈性擴容、協作,以及需要更高多 GPU 吞吐量的工作負載。
較實際的結論是,「AI PC」的定義正在超越一部只會運行助理功能、靠 NPU 加速的電腦。只要統一記憶體足夠,一部細小桌面電腦也可以變成個人本地模型伺服器;但在 Framework 192GB 配置正式上市之前,買家仍應先確認頻寬、軟件支援、記憶體是否固定、獨立測試結果,以及實際供貨情況。