Framework Desktop с 192 ГБ показывает, почему локальному ИИ нужна unified memory

Главная особенность — не NPU, а 192 ГБ общей памяти

Предстоящая конфигурация Framework Desktop рассчитана на пользователей, которые хотят запускать большие языковые модели (LLM) непосредственно на компьютере — без постоянного обращения к облачным сервисам и без отдельной видеокарты с ограниченным объёмом VRAM.

В максимальной версии используется AMD Ryzen AI Max+ PRO 495: 16 ядер и 32 потока Zen 5, встроенная графика Radeon и NPU XDNA 2. Но ключевая характеристика системы — 192 ГБ объединённой памяти LPDDR5X-8533 с пропускной способностью до 273 ГБ/с. Это на 50% больше памяти, чем у предыдущих конфигураций Ryzen AI Max+ 395 на 128 ГБ, а пропускная способность выросла на 6,6% — с 256 до 273 ГБ/с. 12316

В архитектуре unified memory процессор и встроенный GPU используют один физический пул памяти. Framework заявляет, что до 160 ГБ из общего объёма можно выделить встроенной графике. Для локальных LLM это особенно важно: большая часть весов модели может находиться в одной системе, а не распределяться между небольшой VRAM дискретной видеокарты и значительно более медленной оперативной памятью. 110

Какие модели поместятся в такой компьютер

Framework демонстрировала работу с квантованной версией DeepSeek V4-Flash в формате Q8 — при этом, по заявлению компании, оставалось место для контекста. 714 В другом материале 192-гигабайтной конфигурации приписывается способность вместить в память модель примерно на 284 млрд параметров. Однако это утверждение говорит прежде всего о вместимости, а не о независимом тесте скорости генерации. 4

Здесь важно различать два понятия:

• объём памяти определяет, сможет ли модель загрузиться без масштабного выгружания частей в медленное хранилище или системную память;
• пропускная способность влияет на то, насколько быстро компьютер будет перемещать данные модели во время инференса;
• вычислительная мощность и программная оптимизация определяют практическую скорость вывода токенов;
• размер контекста и фоновые приложения увеличивают потребление памяти.

Квантование уменьшает размер весов, представляя их числами с меньшей разрядностью. Поэтому одна и та же модель может требовать существенно разный объём памяти в форматах Q4, Q8 и без квантования. Но даже если веса помещаются в 192 ГБ, это ещё не означает, что модель будет работать быстро или комфортно при длинном контексте и параллельных задачах.

273 ГБ/с — много для мини-ПК, но не рекорд

Пропускная способность 273 ГБ/с выглядит впечатляюще для компактного компьютера, однако она заметно ниже показателей некоторых систем с высокоскоростной объединённой памятью. Например, для конфигураций Mac Studio с M4 Max указываются 128 ГБ памяти и 546 ГБ/с. 1720

Именно поэтому Framework делает ставку прежде всего на вместимость, а не на максимальную скорость. Большой общий пул позволяет загрузить модель, которая могла бы не поместиться в обычном ПК с 16–32 ГБ VRAM. Но после загрузки скорость работы будет зависеть от того, как быстро система обращается к этим данным и насколько хорошо конкретный программный стек использует Radeon GPU.

Что может изменить скрытая функция Windows 11

Параллельно Microsoft, судя по данным из экспериментальной сборки Windows 11 29648.1000, тестирует функцию под названием IntelligentCarveout. В найденных строках интерфейса упоминаются «зарезервированная память для ускорителей» и «память для графики и ИИ». Предполагается, что функция позволит зарезервировать определённую часть unified memory для графических и ИИ-нагрузок, вместо того чтобы полностью полагаться на динамическое распределение Windows. 333435

Для локального инференса это может быть полезно. Если браузер, редактор, игры и ИИ-рантайм одновременно используют один пул памяти, заранее выделенная область способна сделать доступ модели более предсказуемым и снизить вероятность ошибок при размещении крупных буферов.

Но IntelligentCarveout не добавляет оперативную память, не ускоряет шину и не превращает встроенную графику в новую видеокарту. Зарезервированная область недоступна обычным приложениям: если выделить больше памяти ИИ, Windows и другим программам останется меньше. Microsoft пока не подтвердила финальный интерфейс, список совместимого оборудования, сроки выхода или сам факт релиза функции. Она может измениться или вовсе не попасть в стабильную версию системы. 364044

Модульность есть, а память заменить нельзя

Framework позиционирует Desktop как более ремонтопригодный и модульный компактный ПК, чем большинство конкурирующих мини-систем. Ожидается, что новая конфигурация сохранит открытый слот PCIe x4, который можно будет использовать для совместимых плат расширения. 13

С памятью ситуация противоположная. LPDDR5X распаяна на системной плате и не устанавливается в виде обычных сменных модулей DIMM. Поэтому покупателям следует считать выбранные 192 ГБ фиксированным объёмом. Переход на более вместительную конфигурацию в будущем, скорее всего, потребует замены материнской платы, а не стандартного апгрейда оперативной памяти. 13

Framework предлагает варианты использования с Windows и Linux, включая предустановку Linux. 2 Однако совместимость с локальными моделями будет зависеть от конкретного рантайма и способа ускорения. На системах AMD можно использовать стеки вроде ROCm и Vulkan, тогда как Apple делает ставку на Metal и MLX, а решения NVIDIA — на CUDA. Эти экосистемы не взаимозаменяемы: модель, которая хорошо работает на одной платформе, может потребовать другого рантайма или не иметь сопоставимой оптимизации на другой. 1924

Цена и сроки пока неизвестны

По состоянию на 31 августа 2026 года Framework указывала конфигурацию Desktop с Ryzen AI Max+ PRO 495 и 192 ГБ как «скоро в продаже». Компания не объявила цену, дату начала предварительных заказов, поставок или широкого запуска. 21011

Поэтому оценивать соотношение цены и производительности пока рано. Демонстрация DeepSeek V4-Flash — это предварительный показ возможностей, а не замена независимым тестам. Для окончательных выводов нужны замеры скорости генерации токенов, температуры, энергопотребления, поведения при длительной нагрузке и совместимости с разными моделями. 6

Как Framework выглядит на фоне конкурентов

Framework не изобретает unified memory, а присоединяется к уже сформировавшемуся направлению. Apple несколько лет использует архитектуру, в которой CPU и GPU работают с общей памятью, а её системы в ряде конфигураций предлагают значительно большую пропускную способность. 1720

На рынке также есть компактные ПК на AMD Ryzen AI Max+ 395 с 128 ГБ общей памяти, включая решения GMKtec и Beelink. Системы класса NVIDIA DGX Spark делают акцент на совместимости с CUDA при сопоставимом компактном формате и большом объёме памяти. 1924

При сравнении таких компьютеров покупателю стоит смотреть не только на число TOPS у NPU:

• объём памяти определяет, поместится ли квантованная модель;
• пропускная способность влияет на скорость обработки данных во время инференса;
• программная экосистема определяет доступность рантаймов, ядер и инструментов обслуживания моделей;
• ремонтопригодность и расширяемость особенно важны, если память распаяна и фиксирована при покупке;
• цена и наличие показывают, является ли устройство реальным вариантом покупки, а не красивым анонсом.

Что это говорит о будущем «ИИ-ПК»

Самый важный вывод из истории Framework — локальный ИИ всё чаще упирается не в количество TOPS, а в память. Компьютер может иметь мощный NPU, но не сможет запустить крупную модель, если ей негде разместить веса и контекст.

Эксперимент Microsoft показывает, что эта проблема становится не только аппаратной, но и системной. По мере роста моделей операционная система должна эффективнее распределять общий пул между Windows, графикой и ИИ-рантаймами.

Это не означает, что локальные компьютеры заменят облачные сервисы. Облако по-прежнему лучше подходит для передовых моделей, гибкого масштабирования, совместной работы и задач, которым нужна высокая производительность нескольких GPU. Но компактный ПК с большим объёмом unified memory способен стать персональным локальным сервером моделей — для автономной работы, чувствительных данных и предсказуемых расходов.

Framework Desktop с 192 ГБ — пока ещё предварительный продукт без цены и независимых тестов. Но его характеристики наглядно показывают, куда движется рынок: «ИИ-ПК» постепенно превращается из компьютера с небольшим встроенным помощником в компактную машину, способную запускать действительно крупные языковые модели локально.