AMD подтвердила локальную поддержку Meta Muse Glimmer 30B

Производительность на оборудовании AMD

AMD опубликовала предварительные тесты производительности Muse Glimmer 30B на своём новейшем оборудовании. Тесты проводились в Windows с использованием проекта llama.cpp, бэкенда Vulkan и спекулятивного декодирования dFlash .

• Процессор AMD Ryzen AI Max+ 395: до 24 токенов в секунду на системе с 128 ГБ унифицированной памяти .
• Одна видеокарта AMD Radeon AI PRO R9700: до 53 токенов в секунду при включённом спекулятивном декодировании dFlash .

Важно отметить, что это ранние предварительные результаты, измеренные самой AMD, поэтому реальная производительность может варьироваться в зависимости от конфигурации системы, охлаждения и нагрузки .

Модель использует 4-битное квантование (K-Quant-Dynamic), сжимая свой объём с более чем 55 ГБ при полной точности до примерно 18–20 ГБ . Это позволяет одновременно загрузить веса модели, KV-кеш и энкодер восприятия на одну потребительскую видеокарту с 24 ГБ или 32 ГБ памяти . Тесты Meta показали, что такое квантование «вызывает минимальную или нулевую деградацию агентных задач» .

Инструменты для разработчиков и пути интеграции

AMD и её партнёры обеспечили несколько непосредственных путей для разработчиков, чтобы начать работу с Muse Glimmer с первого дня.

LM Studio Bionic

LM Studio напрямую сотрудничала с Meta, чтобы обеспечить поддержку Muse Glimmer с первого дня в приложении LM Studio Bionic . Пользователи могут загрузить и запустить модель локально в несколько кликов из встроенного каталога. Самый маленький вариант Muse Glimmer требует как минимум 26 ГБ ОЗУ . LM Studio доступна как для Windows, так и для Linux, использует среду выполнения llama.cpp и является ключевым инструментом для локальной экосистемы ИИ от AMD .

Сервер AMD Lemonade

Собственный открытый локальный ИИ-сервер AMD, Lemonade, позиционируется как основной путь интеграции . Lemonade предоставляет локально запущенные модели через отраслевой стандарт API OpenAI, что позволяет любому существующему приложению, работающему с OpenAI, мгновенно работать с локальным экземпляром Muse Glimmer . Он поддерживает генерацию текста, изображений и аудиомодели в одном лёгком пакете на C++, который работает на Windows, Linux, macOS и Docker .

Более широкая экосистема

Помимо LM Studio и Lemonade, Muse Glimmer имеет широкую поддержку экосистемы, развёртываемую параллельно с запуском:

• Hugging Face Transformers: официальные веса модели размещены по адресу meta-models/Muse-Glimmer-30B под лицензией Apache 2.0 .
• llama.cpp: основная среда выполнения для ускорения AMD GPU через бэкенд Vulkan .
• Unsloth: поддерживает модель для инференса и тонкой настройки, позволяя полную тонкую настройку на 20 ГБ VRAM .
• vLLM и SGLang: высокопроизводительное обслуживание инференса .
• Ollama: поддержка с первого дня в версии 0.32.7 .
• ExecuTorch и MLX: для развёртывания на устройствах и Apple Silicon .

Такая широта инструментов означает, что разработчики не привязаны к одной среде выполнения и могут выбрать стек, который лучше всего подходит для их сценария развёртывания .

Стратегическая ставка: «Агентный ПК» и независимый от облака ИИ

AMD прямо называет комбинацию Muse Glimmer и своего оборудования «следующим этапом Агентного ПК» . Стратегический аргумент состоит из трёх частей:

1. Конфиденциальность и суверенитет данных

Выполнение инференса полностью на локальном оборудовании означает, что конфиденциальные данные — документы, код, личная информация — никогда не покидают машину пользователя. Нет вызовов API к сторонним серверам, данные не регистрируются облачными провайдерами, и нет зависимости от подключения к сети . Для корпоративных сценариев, связанных с конфиденциальными данными, это решающее преимущество.

2. Нулевая стоимость инференса

После покупки оборудования локальный инференс не имеет затрат на токен. Нет платы за использование API, нет абонентской платы за конечные точки инференса, нет переменных затрат на облачные вычисления . Для разработчиков, запускающих непрерывные циклы агентов или интенсивные пакетные нагрузки, это коренным образом меняет экономику развёртывания ИИ-агентов.

3. Полный контроль разработчика через лицензию Apache 2.0

Решение Meta выпустить Muse Glimmer под лицензией Apache 2.0 является критической частью предложения . Разработчики могут полностью проверять, модифицировать, дообучать и распространять модель без ограничений. Это устраняет привязку к одному поставщику и соответствует широкому стремлению AMD построить открытую альтернативу проприетарной экосистеме Nvidia CUDA .

Как заявляет AMD в своём официальном блоге: «Сочетание моделей с открытыми весами, таких как Muse Glimmer, и мощного локального оборудования сохраняет весь инференс приватным, с низкой задержкой и независимым от затрат на облачные API или подключение к сети» .

Оговорки и соображения

Хотя объявление является значительным, следует учитывать несколько моментов:

• Предварительные тесты: показатели производительности в 24 и 53 ток/с получены AMD в ходе собственного раннего тестирования на Windows с использованием конкретного стека ПО (llama.cpp с Vulkan и dFlash). Реальная производительность будет варьироваться .
• DIY-стек на Windows: для пользователей Windows развёртывание Muse Glimmer в настоящее время является самостоятельным стеком ПО. На момент запуска у AMD нет единого предварительно настроенного установщика «в один клик» .
• Требования к оборудованию: самый маленький квантованный вариант по-прежнему требует как минимум 26 ГБ системной ОЗУ . Пользователи с 16 ГБ не смогут запустить модель локально.
• Зрелость экосистемы: хотя поддержка с первого дня широка, модель была выпущена 10 августа 2026 года, и некоторые интеграции развёртываются в течение следующих дней и недель .

Заключение

Подтверждение AMD локальной поддержки Muse Glimmer 30B от Meta — знаковое событие для экосистемы локального ИИ. Оно подтверждает, что производительная модель-агент с 30 миллиардами параметров может работать на одной потребительской видеокарте, предоставляет разработчикам зрелую альтернативу с открытым весом под лицензией Apache 2.0 и предлагает чёткие, немедленные пути интеграции через LM Studio и Lemonade. Это объявление укрепляет позиции «Агентного ПК» — будущего, в котором мощные ИИ-агенты работают приватно, непрерывно и экономически эффективно на оборудовании, которое пользователи уже имеют .