AnswersPublished16 sources
FlagOS 2.2: як спільна оптимізація може допомогти різним ШІ-чипам
FlagOS 2.2 прагне не лише запускати моделі на різних чипах, а й повторно використовувати та оптимізувати програмний код між платформами. За даними розробників, стек охоплює 1 454 оператори, а їхня міжчипова продуктивність у тестах зросла приблизно на 27%.
ОпублікувавВідредаговано за допомогою GPT-6 LunaЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- FlagOS 2.2 прагне не лише запускати моделі на різних чипах, а й повторно використовувати та оптимізувати програмний код між платформами.
- За даними розробників, стек охоплює 1 454 оператори, а їхня міжчипова продуктивність у тестах зросла приблизно на 27%.
- Результати тестів операторів не гарантують такого самого приросту в реальних сервісах: там потрібні окремі перевірки для конкретного обладнання й навантаження.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How does the Beijing Academy of Artificial Intelligence’s FlagOS 2.2, released September 30 and showcased at the October 17, 2026 AI Open Co. Article summary: FlagOS 2.2’s central advance is a shift from making models run on different chips to reusing and optimizing a common software implementation across those chips, combining operator libraries, compilation, kernel generatio. Topic tags: general, documentation, general web, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Головна зміна у FlagOS 2.2 — перехід від сумісності між чипами до повторного використання й оптимізації коду на різних платформах. Програмний стек об’єднує бібліотеки операторів, оптимізацію компілятора, генерацію ядер і засоби розгортання. За даними BAAI, дев’ять бібліотек містять 1 454 оператори, а в тестах із понад 1 000 операторів і 10 типами ШІ-обладнання міжчипова продуктивність операторів зросла приблизно на 27%. Це заявлені результати тестування, а не доказ того, що кожна модель чи сервіс працюватиме швидше на такий самий відсоток. 6
8
Що змінює FlagOS 2.2
Програмний стек для різних чипів може допомогти запускати модель на різному обладнанні. Наступне завдання — зробити інженерну роботу, зокрема реалізацію та оптимізацію операторів, придатною до повторного використання. FlagOS 2.2 поєднує реалізації операторів з оптимізацією компілятора FlagTree. 6
За повідомленням розробників, дев’ять бібліотек операторів охоплюють 1 454 одиниці — на 890 більше, ніж у попередній версії. Одна з бібліотек, FlagGems, реалізована мовою Triton і призначена для підтримки навчання та інференсу на різних програмних платформах. 1
2
6
Окремий матеріал описує FlagGems-SGLang як бібліотеку з 40 багаточиповими операторами для таких функцій, як механізм уваги, оновлення стану Mamba, суміш експертів, LoRA, семплювання та квантування. Доступні витяги з офіційної документації й матеріалів конференції не дають змоги незалежно підтвердити охоплення платформ або валідацію цих операторів. Тож цей перелік варто сприймати як опис заявлених можливостей, а не як перевірений результат продуктивності.
Генерація ядер і налагодження
KernelGen — платформа автоматизованої розробки ядер Triton: вона призначена для генерації, оптимізації, тестування та розгортання операторів на різному обладнанні. 5 У звіті про випуск зазначено, що за квартал інструмент згенерував 765 операторів; 416 із них, за повідомленням, пройшли перевірку точності щонайменше на п’яти китайських апаратних платформах. Це не означає, що перевірку пройшли всі 765 операторів або що валідовані ядра зрівнялися з нативними реалізаціями чи перевершили їх.
6
В документації FlagOS FlagPrism описано як інструментарій для налагодження на різних платформах і аналізу продуктивності програм Triton. 3 У звіті про випуск сказано, що він підтримує обладнання п’яти виробників, зокрема Nvidia та Huawei Ascend.
6 Наявні матеріали не перелічують усіх виробників і не містять детального порівняння можливостей налагодження та профілювання.
Квантування та адаптація моделей
FlagOS-Compressor підтримує конвертацію контрольних точок моделі, квантування ваг, калібрування та перевірку створених файлів. BAAI повідомляє, що після квантування Qwen3.5-397B-A17B розмір файлу моделі зменшився на 49,1%. У цитованому звіті немає відповідних вимірювань точності чи швидкості обслуговування, тому лише за зменшенням файлу не можна оцінити компроміс між розміром, якістю моделі та продуктивністю. 6
У тому самому звіті йдеться, що завдяки плагінам для різних апаратних платформ і FlagOS-Compressor нову модель можна адаптувати максимум до 12 платформ у день її виходу. 6 Це заявлена можливість; доступні матеріали не уточнюють, які саме плагіни забезпечили конкретну адаптацію, і не дають достатньо деталей, щоб відтворити заявлені строки.
Як трактувати показники продуктивності
BAAI повідомляє приблизно про 27% приросту міжчипової продуктивності операторів у тестуванні понад 1 000 операторів на 10 типах різнорідного ШІ-обладнання. 6 Це результат на рівні операторів. Його не слід сприймати як 27-відсоткове прискорення обслуговування моделі загалом: кінцевий результат залежить від моделі, обладнання, точності обчислень, робочого навантаження та конфігурації сервісу.
Як приклад сервісного навантаження видання повідомляє, що пропускна здатність GLM-5.3-Flash у режимі логічного обслуговування на Ascend 910B сягнула 2,04 від попереднього рівня після оптимізації. У фрагменті джерела недостатньо деталей про навантаження та базовий сценарій, щоб переносити цей результат на інші розгортання. Надані матеріали також не підтверджують заявлені результати для Xing4.0-29B-A4B від China Telecom на 10 платформах.
Чому важливо повторно використовувати оптимізації
У матеріалах конференції проблему описують так: ШІ-моделі швидко змінюються, тоді як обчислювальна інфраструктура має працювати роками. Напрям FlagOS — перетворювати роботу над операторами, компілятором і системою для конкретної моделі на повторно використовувані можливості, доступні на різних чипах. 8
BAAI також стверджує, що понад 80% уже розгорнутих ШІ-обчислювальних ресурсів належать до старших поколінь. У доступних джерелах цю цифру не підтверджено незалежною перевіркою, тож її варто вважати заявою організації. Якщо наведена оцінка правильна, програмні поліпшення, які дають змогу запускати нові моделі на наявному обладнанні, можуть стати для операторів альтернативою негайній заміні техніки. 6
8
Практичний висновок обнадійливий, але має межі: FlagOS 2.2 повідомляє про ширше охоплення операторів та інструменти для спільної оптимізації на різних чипах. Заявлені показники допомагають оцінити прогрес проєкту, але рішення про розгортання потребують тестування на конкретних навантаженнях. Наявні матеріали не підтверджують незалежно кожну заяву щодо платформ, моделей і продуктивності.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "FlagOS 2.2: як спільна оптимізація може допомогти різним ШІ-чипам"?
FlagOS 2.2 прагне не лише запускати моделі на різних чипах, а й повторно використовувати та оптимізувати програмний код між платформами.
What are the key points to validate first?
FlagOS 2.2 прагне не лише запускати моделі на різних чипах, а й повторно використовувати та оптимізувати програмний код між платформами. За даними розробників, стек охоплює 1 454 оператори, а їхня міжчипова продуктивність у тестах зросла приблизно на 27%.
What should I do next in practice?
Результати тестів операторів не гарантують такого самого приросту в реальних сервісах: там потрібні окремі перевірки для конкретного обладнання й навантаження.