ОтветыОпубликовано19 источники
Xing4.0-29B-A4B: параметры, обучение на Ascend и заявленные результаты
Xing4.0 29B A4B — модель с открытыми весами для программирования и многошаговых агентных задач: около 29 млрд параметров всего и примерно 4 млрд активных на токен. На каждый токен выбираются четыре из 64 маршрутизируемых экспертов; также работает один общий эксперт.
ОпубликовалОтредактировано с помощью GPT-6 SolИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Xing4.0 29B A4B — модель с открытыми весами для программирования и многошаговых агентных задач: около 29 млрд параметров всего и примерно 4 млрд активных на токен.
- На каждый токен выбираются четыре из 64 маршрутизируемых экспертов; также работает один общий эксперт.
- Разработчики сообщают о приросте пропускной способности обучения примерно на 96% и возможности сократить расход видеопамяти до 15 ГБ при квантовании.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What is China Telecom AI’s open-sourced Xing4.0-29B-A4B agentic Mixture-of-Experts model, and what are its parameter count, active experts,. Article summary: Xing4.0-29B-A4B is China Telecom AI’s open-weight Mixture-of-Experts language model for coding and other multi-step agent tasks. It has about 29 billion parameters in total, but activates about 4 billion for each token—n. Topic tags: general, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, click
Xing4.0-29B-A4B — языковая модель China Telecom AI с открытыми весами, рассчитанная в том числе на написание кода и задачи, где ИИ-агенту нужно выполнить несколько последовательных действий. Она построена по схеме «смеси экспертов» (MoE): из примерно 29 млрд параметров при обработке каждого токена активируется около 4 млрд. Это снижает объём вычислений на шаге генерации, но не означает, что для запуска достаточно хранить только 4 млрд параметров. 1
10
Как устроена модель
У Xing4.0-29B-A4B есть 64 маршрутизируемых эксперта и один общий. Для каждого токена модель выбирает четыре маршрутизируемых эксперта, при этом общий тоже участвует в обработке. Штатное контекстное окно составляет 256 тыс. токенов; возможность расширить его до 512 тыс. указывается отдельно и не является штатным размером окна. 1
2
Архитектура сочетает MLA — механизм внимания, призванный уменьшить требования к кешу, mHC — гиперсоединения для стабилизации обучения, и MTP — предсказание нескольких токенов. Это элементы конструкции, ориентированной на длинные последовательности и многошаговую работу. 1
5
Обучение и инструменты
Модель обучали на оборудовании Huawei Ascend с использованием экосистемы MindSpore. По данным разработчиков, настройка обмена данными между экспертами MoE, выборочный повтор вычислений, объединение операций вычислительного графа и собственные операторы Ascend C повысили пропускную способность обучения примерно на 96% по сравнению с базовой конфигурацией без этих оптимизаций. Речь именно об обучении: из этой цифры не следует, что генерация ответов у пользователей станет на 96% быстрее. 5
13
Веса размещены на Hugging Face в репозитории XingChen-AGI/Xing4.0-29B-A4B под лицензией Apache 2.0. В материалах модели приведены примеры работы с Transformers и vLLM; также заявлена поддержка SGLang и KTransformers для запуска, LLaMA-Factory и MindFormers для дообучения. Для агентных инструментов OpenCode, Claude Code, OpenClaw и Hermes сообщается об отдельных адаптациях. 12
13
8
Что означают результаты тестов и «15 ГБ»
Опубликованы оценки 75,00 в SWE-bench Verified, 57,50 в Terminal-Bench 2.1 и 93,52 в агентном тесте SuperCLUE. Это показатели из материалов о модели и публикаций о её выпуске, а не результаты, независимо воспроизведённые для этой статьи. 6
19
8
China Telecom также заявляет, что квантование с пониженной разрядностью и оптимизация памяти позволяют сократить использование видеопамяти примерно до 15 ГБ; в других публикациях эта цифра относится к 4-битной версии. Для конкретного компьютера это не гарантия: при оценке требований к памяти важны вариант квантования, настройки запуска и длина обрабатываемого контекста. 6
8
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Xing4.0-29B-A4B: параметры, обучение на Ascend и заявленные результаты»?
Xing4.0 29B A4B — модель с открытыми весами для программирования и многошаговых агентных задач: около 29 млрд параметров всего и примерно 4 млрд активных на токен.
Какие ключевые моменты необходимо проверить в первую очередь?
Xing4.0 29B A4B — модель с открытыми весами для программирования и многошаговых агентных задач: около 29 млрд параметров всего и примерно 4 млрд активных на токен. На каждый токен выбираются четыре из 64 маршрутизируемых экспертов; также работает один общий эксперт.
Что мне делать дальше на практике?
Разработчики сообщают о приросте пропускной способности обучения примерно на 96% и возможности сократить расход видеопамяти до 15 ГБ при квантовании.