Framework 192GB AI 桌機登場：為何統一記憶體比 NPU 更關鍵

Framework 即將推出的 Desktop 新配置，瞄準的是本機 AI 最現實的瓶頸：大型語言模型能否完整放進一台電腦的記憶體，而不必依賴獨立顯示卡。這套系統搭載 AMD 16 核心 Ryzen AI Max+ PRO 495，最高配備 192GB 統一 LPDDR5X-8533 記憶體，記憶體頻寬達 273GB/s。

另一方面，Microsoft 正在 Windows 11 實驗版本中測試統一記憶體管理功能。若日後正式推出，可能讓採用共享記憶體的 PC 更容易為圖形與 AI 工作負載保留穩定的記憶體空間。不過，這項功能目前尚未正式公布，仍可能修改甚至取消。

兩項發展共同指向同一個變化：本機 AI 的關鍵，正逐漸從單純比較處理器或 NPU 效能，轉向比較記憶體容量與頻寬。但這並不代表雲端 AI 即將消失。

Framework 192GB Desktop 有什麼特別？

最高階配置採用 AMD Ryzen AI Max+ PRO 495，具備 16 核心、32 執行緒的 Zen 5 CPU、Radeon 整合式顯示核心，以及 XDNA 2 NPU。Framework 列出的規格包括 192GB 統一 LPDDR5X 記憶體與 273GB/s 頻寬；相較公司先前採用 Ryzen AI Max+ 395、最高 128GB 記憶體的配置，容量增加 50%，頻寬則由 256GB/s 提升約 6.6%。12316

所謂「統一記憶體」，是指 CPU 與整合式 GPU 使用同一個實體記憶體池。Framework 表示，192GB 中最多可分配 160GB 給 iGPU。對本機 LLM 使用者而言，這是整套配置最重要的賣點：模型權重可以更大比例留在同一台機器裡，不必在容量有限的獨立 GPU VRAM 與速度較慢的系統記憶體之間拆分。110

代價也很明顯。273GB/s 對小型桌機來說相當可觀，但仍低於部分高階統一記憶體平台的頻寬。因此，「模型放得進去」不等於「模型跑得很快」。長上下文、桌面應用程式，甚至多名使用者同時推論，都可能爭用記憶體頻寬。

它能執行哪些模型？

根據 Framework 預覽相關報導，該系統已展示在本機執行 Q8 量化版本的 DeepSeek V4-Flash，而且仍有空間容納額外上下文。714 另一篇報導則以記憶體容量角度估算，192GB 配置可在記憶體中容納約 2,840 億參數的模型。4

不過，後者應理解為「模型可能載入」的容量說明，而不是實際生成速度的獨立測試。量化位元數、模型架構、推論引擎的額外開銷、上下文長度，以及同時執行的應用程式，都會影響最終需求。

簡單來說：

• 記憶體容量決定模型能否載入。
• 記憶體頻寬影響模型資料搬移與生成速度。
• 軟體與運算核心決定實際使用是否順暢。

因此，即使大型量化模型能完整放進 192GB 記憶體，也不能僅憑規格推斷其每秒產生多少 token。Framework 目前的展示，仍不能取代獨立測試中的 token 速度、溫度、功耗與長時間穩定性。6

Microsoft 的 Windows 11 實驗功能有何作用？

Microsoft 據報正在 Windows 11 實驗版本 29648.1000 中測試一項名為「IntelligentCarveout」的內部功能。該版本的程式字串提到「Reserved memory for accelerators」以及「Memory for graphics and AI acceleration」，顯示其目標可能是讓 Windows 為圖形與 AI 密集型應用程式預留特定比例的統一記憶體，而不是完全交由系統動態分配。333435

對 CPU 與 GPU 共用同一記憶體池的電腦而言，這種機制可能讓本機推論工作負載更穩定。當瀏覽器、遊戲、開發工具和 LLM 執行環境同時運作時，預留空間或許能降低記憶體配置失敗的機會。

但它不是額外的 RAM，也不會提高記憶體匯流排速度，更不會新增 AI 加速器。被預留的記憶體同時不能供一般 Windows 應用程式使用；如果替 AI 分配更多空間，留給其他工作的記憶體就會減少。3640

截至目前，Microsoft 尚未確認最終介面、支援的硬體、推出時間，甚至未確認這項功能一定會正式推出。364044 換句話說，IntelligentCarveout 可能改善的是「怎樣管理現有記憶體」，而不是突破硬體容量本身。

可升級性：機身模組化，記憶體卻不是

Framework Desktop 的定位，是相較許多競爭產品更注重模組化、維修性與擴充性的緊湊型桌機。即將推出的配置預計仍保留開放式 PCIe x4 擴充插槽，讓使用者日後有機會加入相容的擴充硬體。13

然而，192GB LPDDR5X 記憶體是直接焊接在主機板上的板載記憶體，不是可由使用者更換的 DIMM。因此，購買時選定的容量基本上就是固定容量；若未來需要更大記憶體，通常得更換主機板，而不是像傳統桌機一樣自行加裝 RAM。13

這一點對本機 AI 使用者尤其重要。模型規模與上下文需求可能持續增長，192GB 雖然吸引人，但也意味著使用者必須在購買時評估未來幾年的需求。

Windows、Linux 與 AI 軟體相容性

Framework 列出 Windows 與 Linux 取向的使用情境，並提供 Linux 預載選項。2 但能否順利執行本機推論，仍取決於所使用的推論引擎與加速路徑。

AMD 平台可透過 ROCm 或 Vulkan 等軟體堆疊使用 Radeon 整合式 GPU；其他統一記憶體平台則可能主要依賴 Apple 的 Metal／MLX，或 NVIDIA 的 CUDA 生態系。這些生態並非完全互通，同一個模型在不同平台上可能需要不同執行環境，也未必能獲得相同程度的最佳化。1924

相較之下，NVIDIA 平台通常在 CUDA、核心函式庫與模型服務工具方面具有較成熟的支援。AMD 的硬體記憶體容量可能很有吸引力，但實際購買前仍應確認目標模型、量化格式與推論工具是否支援，而不能只看 RAM 數字。

價格與上市時間仍是未知數

截至 2026 年 8 月 31 日，Framework 將 192GB Ryzen AI Max+ PRO 495 Desktop 列為「即將推出」。公司尚未公布價格、預購日期、出貨日期或廣泛供貨承諾。21011

因此，現在判斷它的性價比仍嫌過早。現有內容主要是產品預覽與廠商展示，尚不能取代正式產品上市後的獨立評測，包括每秒 token 數、散熱、功耗、模型相容性，以及長時間執行表現。6

與其他統一記憶體系統相比

Framework 並不是首次採用這種設計。Apple Silicon 早已將 CPU 與 GPU 放在共享記憶體架構中；部分配置的頻寬明顯更高，例如 M4 Max 的 128GB 配置被報導可達 546GB/s。1720

在 Windows 與小型 PC 市場，GMKtec、Beelink 等廠商也提供採用 Ryzen AI Max+ 395、最高 128GB 共享記憶體的產品。NVIDIA 的 DGX Spark 類系統則以 CUDA 相容性為主要特色，同樣將高容量統一記憶體放進相對緊湊的機身。1924

對消費者而言，真正需要比較的不是單一規格，而是以下五項：

• **容量：**決定量化模型能否載入，以及是否有空間容納更長上下文。
• **頻寬：**影響推論時模型資料移動的速度。
• **軟體：**決定推論引擎、核心函式庫與模型服務工具是否好用。
• **可升級性：**統一 LPDDR5X 通常在購買時就固定，日後難以直接加 RAM。
• **價格與供貨：**預覽產品只有在真正買得到、價格合理時，才具有實際意義。

本機 AI 的下一個瓶頸是記憶體

Framework Desktop 最值得注意的規格，未必是 NPU 的 TOPS 數字，而是異常大的共享記憶體池。Microsoft 正在測試的 Windows 控制功能，也從作業系統層面呼應了同一件事：當 PC 開始在本機執行更大的模型，記憶體如何分配將成為 AI 使用體驗的一部分。

這不表示本機電腦會取代雲端推論。統一記憶體桌機適合需要單機執行、離線處理或不希望資料離開本地環境的使用者；但在前沿模型、彈性擴充、多人協作，以及需要多張 GPU 提供高吞吐量的工作上，雲端基礎設施仍然更有優勢。

更準確的結論是，「AI PC」正在超越只負責執行助理功能的 NPU 電腦。只要統一記憶體容量足夠，一台小型桌機也能成為本地模型伺服器；但在把它視為成熟產品之前，買家仍應確認記憶體頻寬、軟體支援、板載記憶體限制、實際效能測試，以及最重要的正式價格與供貨資訊。