AnswersPublished16 sources
FlagOS 2.2 siktar på gemensam AI-optimering för olika chip
FlagOS 2.2 går från att främst anpassa modeller till olika chip till att försöka återanvända och optimera mjukvara mellan plattformar. BAAI uppger att verktygskedjan omfattar 1 454 operatorer och att prestandan i tester på operatornivå ökade med cirka 27 procent.
Publicerad avRedigerad med GPT-6 LunaBilder genererade med GPT Image 2
Research answer
Key takeaways
- FlagOS 2.2 går från att främst anpassa modeller till olika chip till att försöka återanvända och optimera mjukvara mellan plattformar.
- BAAI uppger att verktygskedjan omfattar 1 454 operatorer och att prestandan i tester på operatornivå ökade med cirka 27 procent.
- Resultat om kvantisering, modellstart och serveringsprestanda är lovande, men flera uppgifter saknar detaljer som behövs för att jämföra eller generalisera dem.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How does the Beijing Academy of Artificial Intelligence’s FlagOS 2.2, released September 30 and showcased at the October 17, 2026 AI Open Co. Article summary: FlagOS 2.2’s central advance is a shift from making models run on different chips to reusing and optimizing a common software implementation across those chips, combining operator libraries, compilation, kernel generatio. Topic tags: general, documentation, general web, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
FlagOS 2.2 tar sikte på en utmaning som uppstår när AI-modeller och hårdvara utvecklas i olika takt: det räcker inte alltid att få en modell att starta på flera sorters chip. Arbetet med att bygga och optimera mjukvaran behöver också kunna återanvändas mellan plattformar.
Den nya versionen samlar därför operatorbibliotek, kompilatoroptimering, automatisk generering av kärnor och verktyg för driftsättning. Beijing Academy of Artificial Intelligence (BAAI), som står bakom FlagOS, uppger att nio operatorbibliotek omfattar 1 454 operatorer – 890 fler än i föregående version. 6 FlagGems är ett av biblioteken och är byggt med programmeringsspråket Triton för att stödja inferens och träning på flera plattformar.
1
2
Från att stödja chip till att återanvända optimeringar
En programvarustack för flera chip kan göra det möjligt att köra samma modell på olika hårdvara. Nästa steg är att utvecklarnas arbete med att implementera och optimera enskilda operatorer inte ska behöva göras om från grunden för varje plattform. FlagOS 2.2 kombinerar operatorimplementationer med kompilatoroptimering från FlagTree som en del av den inriktningen. 6
En sekundär rapport beskriver även FlagGems-SGLang, med 40 operatorer för flera chip. De uppges omfatta funktioner för bland annat attention, uppdatering av Mamba-tillstånd, mixture-of-experts, LoRA, sampling och kvantisering. De tillgängliga utdragen från konferensrapporteringen och den officiella dokumentationen redovisar inte självständigt plattformstäckning eller validering för dessa operatorer. Uppgifterna bör därför ses som en rapporterad funktionsbeskrivning, inte som ett verifierat prestandaresultat.
Automatisk kodgenerering och felsökning
KernelGen är en plattform för automatiserad utveckling av Triton-kärnor. Den är avsedd att generera, optimera, testa och driftsätta operatorer för olika typer av hårdvara. 5 Enligt rapporteringen genererade verktyget 765 operatorer under kvartalet. Av dessa ska 416 ha klarat noggrannhetsvalidering på minst fem kinesiska hårdvaruplattformar. Det innebär inte att alla 765 validerades, eller att de validerade kärnorna matchade eller överträffade plattformarnas ursprungliga implementationer.
6
FlagPrism beskrivs i FlagOS-dokumentationen som ett verktyg för felsökning och prestandaanalys av Triton-program på flera backendmiljöer. 3 Enligt rapporteringen stöder det fem hårdvaruleverantörer, däribland Nvidia och Huawei Ascend.
6 Materialet som finns tillgängligt här specificerar inte alla leverantörer eller ger en detaljerad jämförelse av verktygets felsöknings- och profileringsfunktioner.
Kvantisering och snabbare modellstöd
FlagOS-Compressor stöder konvertering av modellfiler, kvantisering av vikter, kalibrering och validering av resultat. BAAI uppger att kvantisering av Qwen3.5-397B-A17B minskade modellfilens storlek med 49,1 procent. Rapporten anger inte motsvarande mätningar av noggrannhet eller serveringshastighet. Minskad filstorlek räcker därför inte för att avgöra vad avvägningen innebär för modellkvalitet eller prestanda. 6
BAAI uppger också att en ny modell kan anpassas för upp till tolv hårdvaruplattformar redan från lanseringsdagen, med hjälp av ramverkspluginer för flera hårdvaror och FlagOS-Compressor. 6 Det är en rapporterad kapacitet, men materialet beskriver inte vilka pluginer som användes i ett visst fall eller hur tidsuppgiften kan återskapas.
Vad prestandasiffrorna faktiskt säger
BAAI rapporterar omkring 27 procent högre prestanda för operatorer över chipgränserna. Testerna ska ha omfattat mer än 1 000 operatorer och tio typer av heterogen AI-hårdvara. 6 Det är ett resultat på operatornivå – inte belägg för att en komplett AI-modell eller en tjänst som används av slutanvändare blir 27 procent snabbare. Utfallet vid drift påverkas bland annat av modell, hårdvara, precision, arbetslast och konfiguration.
I ett serveringsexempel uppger nyhetsrapporteringen att genomströmningen för GLM-5.3-Flash i ett så kallat logiskt serveringsscenario på Ascend 910B nådde 2,04 gånger nivån före optimering. Källutdraget innehåller inte tillräckliga uppgifter om arbetslast och jämförelsebas för att resultatet ska kunna generaliseras till andra driftsättningar. Underlaget här styrker inte heller de efterfrågade resultaten för China Telecoms Xing4.0-29B-A4B på tio plattformar.
Varför återanvändning kan spela roll
Konferensrapporteringen pekar på en grundläggande obalans: AI-modeller utvecklas snabbt, medan beräkningsinfrastruktur förväntas vara i bruk under många år. FlagOS vill göra arbete med operatorer, kompilatorer och system till återanvändbara funktioner som kan användas på olika chip. 8
BAAI uppger att över 80 procent av den AI-beräkningskapacitet som tagits i bruk bygger på äldre generationers hårdvara. Det är organisationens egen uppgift och inte en statistik som har verifierats oberoende i källorna här. Om utgångspunkten stämmer kan mjukvaruförbättringar som hjälper befintlig hårdvara att köra nyare modeller ge verksamheter ett alternativ till att byta ut utrustning. 6
8
Den praktiska slutsatsen är försiktigt positiv: FlagOS 2.2 rapporterar fler operatorer och verktyg för att återanvända optimeringsarbete mellan olika chip. Siffrorna visar hur projektet beskriver sina framsteg, men beslut om driftsättning kräver fortfarande tester med den egna modellen och arbetslasten. Rapporteringen som finns här verifierar inte självständigt varje plattform, modell eller prestandapåstående.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "FlagOS 2.2 siktar på gemensam AI-optimering för olika chip"?
FlagOS 2.2 går från att främst anpassa modeller till olika chip till att försöka återanvända och optimera mjukvara mellan plattformar.
What are the key points to validate first?
FlagOS 2.2 går från att främst anpassa modeller till olika chip till att försöka återanvända och optimera mjukvara mellan plattformar. BAAI uppger att verktygskedjan omfattar 1 454 operatorer och att prestandan i tester på operatornivå ökade med cirka 27 procent.
What should I do next in practice?
Resultat om kvantisering, modellstart och serveringsprestanda är lovande, men flera uppgifter saknar detaljer som behövs för att jämföra eller generalisera dem.