Как GEEKOM объединила четыре A9 Mega для локального запуска DeepSeek V4 Flash

Ключевую роль здесь играет унифицированная память: CPU и GPU каждого узла используют общий пул памяти, а модель распределяется между несколькими системами. Однако 512 ГБ — это не то же самое, что 512 ГБ, полностью доступных под веса модели. Фактический объём зависит от точности вычислений, квантования, кэшей, служебных данных и ресурсов, занятых операционной системой.

Как устроен локальный запуск

По данным GEEKOM, четыре машины обмениваются данными через USB4. Ubuntu отвечает за базовую среду, ROCm — за программную поддержку графики AMD, а DwarfStar используется для развёртывания и распределения оптимизированной версии DeepSeek V4 Flash между узлами. Результат доступен через OpenAI-совместимую конечную точку.

Совместимый API упрощает интеграцию: существующие внутренние приложения, AI-агенты и инструменты разработчиков, рассчитанные на интерфейс в стиле OpenAI, потенциально могут обращаться к локальной модели без полной переделки программной архитектуры.

Но сама демонстрация не означает, что такой кластер сопоставим с сервером из дата-центра. В опубликованных материалах не указаны топология соединения, фактическая пропускная способность и задержка, метод распределения модели, точность или формат квантования, параметры оркестрации и механизм восстановления после отказа узла. Всё это напрямую влияет на скорость распределённого инференса, поскольку вычисления между машинами требуют постоянного обмена данными.

Накопители и подключение

В каждом A9 Mega предусмотрены два слота M.2 PCIe 4.0, а максимальный заявленный объём SSD составляет 8 ТБ на машину. Поэтому полностью укомплектированный кластер из четырёх узлов теоретически может получить до 32 ТБ накопителей. Это отдельный показатель: он не входит в 512 ГБ унифицированной памяти и сам по себе не говорит, сколько места займут файлы модели и служебные компоненты.

Для связи между узлами GEEKOM указывает USB4. В характеристиках A9 Mega также заявлены порты USB4 со скоростью до 40 Гбит/с. Однако номинальная скорость интерфейса не равна реальной производительности кластера: на неё влияют протокольные потери, схема подключения и характер обмена данными между узлами.

Зачем компании локальный AI

GEEKOM позиционирует систему как частную on-premises-платформу — то есть инфраструктуру, размещённую непосредственно в организации. В таком сценарии внутренние документы, пользовательские запросы и сгенерированные ответы могут оставаться в собственной сети, а корпоративные программы и агенты обращаются к модели через локальный API. ROCm обеспечивает программный слой для оборудования AMD, поэтому именно этой конфигурации не требуется система на базе NVIDIA CUDA.

Преимущество очевидно для проектов с требованиями к конфиденциальности, изоляции сети или размещению данных. Но вместе с этим компания берёт на себя и всю эксплуатационную нагрузку: обновления, контроль доступа, мониторинг, охлаждение, электропитание, хранение файлов модели и устранение программных или аппаратных сбоев.

Сколько это стоит

На сайте GEEKOM цена одного A9 Mega указана на уровне 3 999 долларов. Четыре компьютера обойдутся примерно в 15 996 долларов.

Это сумма до установки дополнительных SSD, покупки кабелей и сетевого оборудования, настройки программного обеспечения, оплаты электроэнергии, технического обслуживания и поддержки. Поэтому оценивать такой кластер нужно не как набор из четырёх мини-ПК, а как полноценный распределённый сервис инференса с соответствующими расходами на эксплуатацию.

Главный пробел — производительность

Анонс подтверждает, что GEEKOM развернула DeepSeek V4 Flash на четырёх A9 Mega, но не даёт независимых стандартизированных результатов именно для этой конфигурации. Не опубликованы показатели постоянной скорости генерации в токенах в секунду, времени до первого токена, количества одновременных пользователей, задержки при длинном контексте, энергопотребления и поведения системы при отказе одного из узлов.

Поэтому демонстрацию корректнее считать доказательством возможности развёртывания, а не готовым производственным бенчмарком. Поддержка контекста до 1 млн токенов — важная характеристика самой модели, но она не доказывает, что четыре A9 Mega смогут быстро и экономично обрабатывать запросы такого размера. Реальный результат будет зависеть от сборки модели, точности, квантования, длины запроса, числа параллельных обращений и накладных расходов на обмен данными по USB4.

Уникальна ли эта аппаратная конфигурация

Сам процессор Ryzen AI Max+ 395 не является эксклюзивом GEEKOM. Другие производители также выпускают мини-ПК на этой платформе, в некоторых случаях — с 128 ГБ унифицированной памяти. В качестве близкого примера можно привести Minisforum N5 Max. Однако, по данным ServeTheHome, серийная версия N5 Max поставлялась с распаянными 64 ГБ LPDDR5X, тогда как у более раннего прототипа была конфигурация на 128 ГБ.

Таким образом, потенциально более заметным отличием GEEKOM является не сам процессор, а заявленная программная демонстрация работы четырёх узлов как единого кластера. Чтобы оценить практическую ценность решения, нужны воспроизводимые инструкции, стандартизированные тесты, измерения сетевого обмена, данные по энергопотреблению и подтверждение стабильности под реалистичной нагрузкой.

Итог

Кластер GEEKOM объединяет четыре компактные системы в локальную AMD-платформу с 64 ядрами CPU, 128 потоками, 160 вычислительными блоками Radeon 8060S и 512 ГБ унифицированной памяти. Узлы соединены по USB4 и работают под управлением Ubuntu, ROCm и DwarfStar.

Идея привлекательна: крупную MoE-модель можно потенциально использовать внутри собственной инфраструктуры через привычный API, не отправляя корпоративные данные в облако. Но доступные материалы пока подтверждают сам факт развёртывания, а не его скорость, эффективность или готовность к промышленной эксплуатации. До публикации воспроизводимых бенчмарков и технических деталей кластер разумнее воспринимать как интересную on-premises-демонстрацию, а не доказанную замену специализированной AI-инфраструктуре.