Huawei открыла openPangu-2.0-Pro: это важный шаг для Ascend, но не готовая схема полного воспроизведения обучения

Открытие openPangu-2.0-Pro — заметно больше, чем публикация очередных весов модели. Huawei сделала доступными важные части крупной модели, ориентированной на собственные ускорители Ascend: их можно изучать, тестировать и использовать для инференса. Но называть релиз полностью воспроизводимой инструкцией по повторению исходного обучения пока преждевременно.

Ключевое уточнение по характеристикам: openPangu-2.0-Pro — это модель типа mixture of experts (MoE) с примерно 505 млрд параметров всего и примерно 18 млрд параметров, активируемых на токен. Она поддерживает контекст до 512K токенов и обучалась примерно на 34 трлн токенов. 21

Что именно опубликовано

31 июля 2026 года Huawei объявила об открытии весов openPangu-2.0-Pro, базового кода инференса и технического отчёта. Компания также сообщила, что связанные с openPangu 2.0 компоненты постепенно появляются на площадках с открытым кодом. 12

У этих материалов разная практическая ценность:

• веса позволяют оценивать уже обученную модель и обслуживать запросы;
• код инференса даёт отправную точку для запуска в целевой среде Ascend;
• технический отчёт и документация модели раскрывают заявленные архитектурные решения и принципы работы системы. 1221

На конференции HDC 2026 Huawei также представила план поэтапного открытия семи компонентов, включая код предварительного обучения, код постобучения и обучающие операторы. 210 Если эти компоненты будут опубликованы в пригодном для работы виде, проект приблизится к сквозному стеку «обучение — дообучение — инференс», а не останется релизом одних лишь весов.

Почему полная воспроизводимость пока не доказана

Открытые веса не равны воспроизводимости обучения на исходном масштабе. Они подтверждают, что опубликованный чекпойнт можно скачать, проверить и использовать, но не раскрывают все условия, при которых этот чекпойнт был получен.

Чтобы независимо повторить предобучение на 34 трлн токенов, понадобились бы как минимум точные данные либо воспроизводимая спецификация их подготовки, полный код обучения и постобучения, гиперпараметры, конфигурация кластера, версии ПО и компиляторов, настройки распределённого обучения, пользовательские операторы, методика оценки и достаточный объём совместимого оборудования. Пока подтверждён выпуск весов, базового кода инференса и отчёта, а остальные элементы Huawei описывает как публикуемые поэтапно. 1221

Поэтому наиболее точная формулировка на данный момент такова: это Ascend-ориентированная открытая модель с заявленным курсом на большую прозрачность всего стека. Это ещё не доказательство того, что сторонняя организация уже сейчас способна самостоятельно повторить исходный запуск обучения.

Какие решения помогают работать с контекстом 512K

openPangu-2.0-Pro сочетает огромный общий размер с механизмами, которые должны сдерживать стоимость генерации и обработки длинного контекста.

MoE: большая ёмкость без включения всей модели на каждом токене

В MoE-моделях каждый токен направляется лишь к части экспертных параметров. Для Pro в карточке модели указаны около 505 млрд параметров всего и около 18 млрд активных параметров на токен. 21

Это не делает систему лёгкой: хранение, развёртывание и обмен данными для модели такого масштаба всё равно требуют серьёзной инфраструктуры. Но объём параметрических вычислений для отдельного токена ниже, чем у плотной модели сопоставимого общего размера.

DSA и SWA: локальный контекст плюс разреженный глобальный доступ

Модель сохраняет MLA и комбинирует DSA со скользящим оконным вниманием SWA в соотношении слоёв 1:2. По описанию Huawei, слои SWA отвечают за моделирование локального окна, а DSA — за разреженный глобальный контекст. Цель — уменьшить вычислительные затраты, потребление памяти и расходы на обращения к памяти при длинном контексте, сохранив точность. 21

Это прямой ответ на проблему 512K-контекста: полное внимание ко всем токенам быстро становится слишком дорогим. Локальные зависимости можно обрабатывать дешевле, а разреженные глобальные механизмы нужны для доступа к значимой удалённой информации.

mHC, многотокенное предсказание и Muon

Huawei также описывает четырёхпоточную residual-топологию mHC, которая должна повышать разнообразие представлений и обобщающую способность. Трёхголовый модуль многотокенного предсказания дополнительно прогнозирует будущие токены и предназначен для ускорения инференса. В карточке модели указан и оптимизатор Muon, заявленная цель которого — более быстрая сходимость при обучении. 21

Это заявления из опубликованных материалов Huawei, а не независимое подтверждение одинакового ускорения в любой установке. Реальные задержки и пропускная способность зависят от конфигурации ускорителей, точности вычислений, батчинга, длины контекста, характера нагрузки и сервирующего ПО.

Где длинный контекст может принести наибольшую пользу

Окно в 512K токенов позволяет агенту держать в одном рабочем сеансе гораздо больше исходного материала: руководства, регламенты, журналы событий, результаты вызовов инструментов и технические спецификации. Это может сократить необходимость в агрессивном дроблении документов, но не отменяет поиск по знаниям, контроль прав доступа, проверку источников и участие человека в принятии решений.

Потенциальные сценарии:

• госуправление: вспомогательный анализ нормативных актов, материалов дел, публичных обращений и межведомственной документации — при строгом разграничении доступа и проверяемых решениях человека;
• финансы: работа с исследованиями, отчётностью, договорами и комплаенс-материалами, но без переноса непроверенных ответов модели в торговые, кредитные или регуляторные решения;
• промышленность и энергетика: сведение воедино инструкций к оборудованию, истории тревог, записей о техобслуживании, технологических документов и сменных журналов для расследований и планирования;
• здравоохранение: суммаризация литературы и продольных медицинских записей в рамках клинического контроля, а не автономная постановка диагноза или назначение лечения;
• разработка автономного транспорта: офлайн-анализ тестовых логов, описаний сценариев, материалов по безопасности и инженерной документации — но не замена валидированной системы управления автомобилем в реальном времени.

Для многих небольших организаций самостоятельный хостинг Pro останется сложной задачей даже с разреженной активацией. Huawei также выпустила меньшую версию openPangu-2.0-Flash: 92 млрд параметров всего и 6 млрд активных параметров на токен. Она может быть более доступным вариантом для оценки и развёртывания. 1520

Помощник для разработки, а не автономный владелец репозитория

Huawei сообщает результат 68,5 на SWE-bench Verified для Thinking-версии openPangu-2.0-Pro. 24 Это заметный результат для бенчмарка, но он не означает, что модели можно надёжно поручить сложную промышленную разработку без контроля.

Настоящие репозитории зависят от настройки окружения, зависимостей, запуска тестов, аудита безопасности, архитектурных решений, меняющихся требований и длительной отладки. Разумная схема внедрения — помощник разработчика с доступом в пределах конкретного репозитория, изолированным исполнением, автотестами, статическим анализом, ревью кода и возможностью отката, а не автоматическое слияние изменений.

Почему поэтапное открытие — это ставка на экосистему

Стратегическая ценность релиза не сводится к весам. Эталонная модель, изначально рассчитанная на Ascend, может побудить разработчиков создавать, тестировать и оптимизировать нагрузки для этой платформы. Такие нагрузки, в свою очередь, создают спрос на более зрелые рантаймы, операторы, инструменты и управляемые сервисы.

Huawei прямо приглашает разработчиков, корпоративных партнёров и исследователей скачивать модель, использовать её и оставлять обратную связь через сообщество Ascend Tribe и сервис Huawei Cloud MaaS. 12

Выпуск Flash и Pro для разных уровней ресурсов расширяет круг потенциальных пользователей, а планируемые компоненты обучения, постобучения и операторы затрагивают именно те программные слои, от которых зависит практичность аппаратной платформы для создателей моделей. 1015

Итог: openPangu 2.0 логичнее рассматривать как попытку укрепить экосистему разработки Ascend плюс Pangu. Открытость релиза уже важна для развёртывания, изучения и экспериментов. Но вывод о полной воспроизводимости стоит делать лишь после публикации оставшегося кода, конфигураций и деталей, связанных с данными, а также после независимых попыток повторить отдельные части исходного конвейера.