Framework 192GB AI 台式机揭示：本地大模型为何越来越依赖统一内存

Framework 即将推出的 Desktop 高配版本，瞄准的是本地 AI 最现实的限制之一：如何让大型语言模型完整装进一台小型电脑，而不依赖独立显卡。该系统采用 AMD 16 核 Ryzen AI Max+ PRO 495，配备最高 192GB 的统一 LPDDR5X-8533 内存，内存带宽达到 273GB/s。与此同时，微软在 Windows 11 中进行的一项独立实验，或许会让这类统一内存系统更容易管理，但目前仍处于未完成、未公布状态。

两项进展共同说明了一个趋势：当个人电脑开始本地运行更大的 AI 模型时，问题已经不只是处理器够不够快，而是内存能否装下、带宽能否支撑。不过，这并不意味着云端 AI 会很快消失。

Framework 192GB Desktop 配置了什么

即将推出的顶配版本搭载 AMD Ryzen AI Max+ PRO 495。这是一颗拥有 16 个 Zen 5 核心、32 个线程的处理器，同时集成 Radeon 图形核心和 XDNA 2 NPU。Framework 列出的规格包括 192GB LPDDR5X 统一内存，以及 273GB/s 的内存带宽。相比此前搭载 Ryzen AI Max+ 395、最高 128GB 内存的配置，容量增加了 50%；相比原有平台的 256GB/s 带宽，带宽提升约 6.6%。12316

由于 CPU 和集成 GPU 使用同一物理内存池，Framework 表示最多可以将其中 160GB 分配给 iGPU。这正是本地大模型用户关注它的核心原因：更多模型权重可以留在同一台机器里，不必在容量有限的独立显卡显存与速度较慢的系统内存之间拆分。 110

当然，统一内存也有取舍。273GB/s 对一台紧凑型 PC 来说相当可观，但仍明显低于部分高端统一内存系统的带宽。模型“能够装下”，并不等于“运行速度足够快”；上下文长度、桌面应用，甚至多个用户同时访问，都可能争用内存带宽。

它能运行多大的模型

根据 Framework 预览时的演示，该系统可以在本地运行 Q8 量化版本的 DeepSeek V4-Flash，并为上下文保留额外空间。714 另一篇报道则称，192GB 配置能够将一个大约 2840 亿参数的模型装入内存。不过，这应当理解为内存容量层面的判断，而不是对实际生成速度的独立测试。4

这里的关键是“量化”。通过使用更低位数的表示方式，可以降低模型权重所需的内存，但最终占用还取决于模型架构、运行时开销、上下文窗口，以及同时运行的其他应用。

简单来说：

• 内存容量决定模型是否有可能加载；
• 内存带宽影响模型数据移动的速度；
• 计算能力与软件优化决定实际生成体验；
• 上下文长度和并发任务会进一步增加内存压力。

因此，192GB 解决的是“能不能放下”这一道门槛，却不能单凭容量保证高 token 生成速度。

Windows 11 的统一内存实验有什么用

据报道，微软正在 Windows 11 实验版本 29648.1000 中测试一项名为“IntelligentCarveout”的内部功能。该版本的代码字符串提到了“为加速器预留的内存”以及“用于图形和 AI 加速的内存”。从现有迹象看，它的目标是让 Windows 为图形和 AI 密集型应用预留一部分统一内存，而不是始终将整个内存池交给系统动态分配。333435

在 Windows 应用与 AI 运行时共享同一内存池的设备上，这一功能可能很有价值。预留区域或许能让模型服务工作负载获得更稳定、更可预测的内存访问，减少其他程序运行后造成的分配失败。

但需要明确的是，IntelligentCarveout 不是额外增加内存，也不会提高内存总线速度，更不是新的 AI 加速器。被预留的内存同样无法供普通应用使用；如果给 AI 分配更多空间，Windows 可用的内存就会相应减少。364044

微软尚未确认该功能最终的操作界面、支持的硬件、发布时间，以及它是否会正式推出。它可能在后续测试中改变，也可能最终不会进入正式版 Windows 11。

可升级性、系统选择与兼容性

Framework 一直将 Desktop 定位为比许多竞品更模块化、更易维修的紧凑型 PC。即将推出的配置预计仍会保留开放式 PCIe x4 扩展插槽，用户可以借此添加兼容的扩展硬件。13

不过，内存并不是同样可升级。192GB LPDDR5X 属于直接焊接在主板上的板载内存，并非用户可以自行更换的 DIMM 内存条。因此，购买者应将所选容量视为固定配置；如果未来需要更大内存，通常需要更换主板，而不是像普通台式机那样直接加装内存。13

Framework 同时面向 Windows 和 Linux 用户，产品页面也提供 Linux 预装选项。2 但本地推理能否顺利运行，仍取决于具体运行时和硬件加速路径。AMD 平台可以使用 ROCm 或 Vulkan 等软件栈；其他统一内存平台则可能更多依赖 Apple 的 Metal/MLX 或 NVIDIA 的 CUDA 生态。这些生态并不能直接互换，同一个模型在不同平台上可能需要不同运行时，也可能无法获得同等程度的优化。1924

价格和上市时间仍是未知数

截至 2026 年 8 月 31 日，Framework 仍将搭载 192GB 内存和 Ryzen AI Max+ PRO 495 的 Desktop 标为“即将推出”。公司尚未公布价格、预订日期、发货日期，也没有承诺广泛上市。21011

因此，现在评价它的性价比或最终性能还为时过早。Framework 的演示属于产品预览，不能替代独立测试，尤其是 token 生成速度、散热、功耗、模型兼容性和长时间持续运行能力等指标。6

它与其他统一内存系统有何不同

Framework 并不是第一个采用统一内存设计的厂商。Apple Silicon 早已将 CPU 和 GPU 放在共享内存架构中；部分配置据报道拥有更高带宽，例如 M4 Max 版本可提供 128GB 统一内存和 546GB/s 带宽。1720

在 Windows 小型 PC 阵营，搭载 Ryzen AI Max+ 395 的 GMKtec、Beelink 等产品提供了 128GB 级别的共享内存方案。NVIDIA 的 DGX Spark 类系统则在类似的小型、高内存设备定位上，重点强调 CUDA 兼容性。1924

对于准备本地运行大模型的用户，真正需要比较的并不是单一的“内存有多少”，而是以下几项：

• **容量：**决定量化模型能否在不大量卸载的情况下装入内存；
• **带宽：**直接影响推理时模型数据的读取和搬运速度；
• **软件生态：**决定运行时、算子、内核和模型服务工具是否好用；
• **可升级性：**统一 LPDDR5X 通常在购买时就固定下来；
• **价格与供货：**决定一款预览产品是否真正值得购买。

本地 AI 正在改变“AI PC”的定义

Framework Desktop 最值得关注的规格并不是 NPU 的 TOPS 数字，而是异常庞大的共享内存池。微软正在测试的 Windows 控制也从侧面印证了这一点：随着 PC 本地运行更大模型，操作系统如何管理内存，正在成为 AI 使用体验的一部分。

但更准确的说法不是“本地 PC 将取代云端推理”，而是本地与云端会长期并存。统一内存小型系统适合希望在单台设备上运行模型的用户，尤其是需要离线处理、减少数据外传，或希望拥有可控运行环境的场景。云端基础设施则仍更适合前沿级模型、弹性扩容、多人协作，以及需要更高多 GPU 吞吐量的工作负载。

更现实的结论是，“AI PC”正在超越配备 NPU 的智能助手电脑。只要统一内存足够大，一台小型台式机就可能变成私人本地模型服务器。但在把这一前景当成成熟产品之前，用户仍应确认内存带宽、软件支持、板载内存限制、真实基准测试，以及最终的价格和供货情况。