AnswersPublished16 sources
Fra brikkekompatibilitet til felles KI-optimalisering
FlagOS 2.2 handler ikke bare om å få modeller til å kjøre på ulike brikker, men også om å gjenbruke og optimalisere programvare på tvers av dem. BAAI rapporterer 1 454 operatører og rundt 27 prosent bedre ytelse i tester.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- FlagOS 2.2 handler ikke bare om å få modeller til å kjøre på ulike brikker, men også om å gjenbruke og optimalisere programvare på tvers av dem.
- BAAI rapporterer 1 454 operatører og rundt 27 prosent bedre ytelse i tester. Tallene gjelder bestemte tester, ikke nødvendigvis ferdige modeller eller alle driftsoppsett.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How does the Beijing Academy of Artificial Intelligence’s FlagOS 2.2, released September 30 and showcased at the October 17, 2026 AI Open Co. Article summary: FlagOS 2.2’s central advance is a shift from making models run on different chips to reusing and optimizing a common software implementation across those chips, combining operator libraries, compilation, kernel generatio. Topic tags: general, documentation, general web, government. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, cha
Hovedskiftet i FlagOS 2.2 er fra kompatibilitet mellom brikker til gjenbruk og optimalisering på tvers av brikker. Programvarestakken samler operatørbiblioteker, kompilatoroptimalisering, generering av kjerner og verktøy for utrulling. BAAI oppgir at ni biblioteker dekker 1 454 operatører, og rapporterer rundt 27 prosent bedre ytelse for operatører på tvers av brikker i tester med mer enn 1 000 operatører og 10 typer KI-maskinvare. Dette er rapporterte testresultater – ikke dokumentasjon på at alle modeller eller tjenester blir tilsvarende raskere. 6
8
Hva er nytt i FlagOS 2.2?
En programvarestakk for flere brikker kan gjøre det mulig å kjøre en modell på ulik maskinvare. Neste utfordring er å sørge for at utviklingsarbeid – som å lage og optimalisere operatører – kan brukes om igjen på tvers av plattformene. FlagOS 2.2 kombinerer operatørimplementasjoner med kompilatoroptimalisering gjennom FlagTree. 6
De ni operatørbibliotekene skal til sammen dekke 1 454 operatører, 890 flere enn i forrige versjon. Ett av bibliotekene, FlagGems, er skrevet i Triton og utviklet for å støtte inferens og trening på flere ulike plattformer. 1
2
6
En annen rapport omtaler FlagGems-SGLang, som skal legge til 40 operatører for flere brikketyper. De skal blant annet håndtere attention, oppdatering av Mamba-tilstand, mixture-of-experts, LoRA, sampling og kvantisering. Dokumentasjonen og konferansematerialet som er tilgjengelig, beskriver ikke uavhengig hvilke plattformer alle operatørene støtter, eller hvordan de er validert. Listen bør derfor leses som en rapportert funksjonsbeskrivelse, ikke som et dokumentert ytelsesresultat.
Verktøy for å lage og feilsøke kjerner
KernelGen er en plattform for automatisk utvikling av Triton-kjerner: Den skal kunne generere, optimalisere, teste og klargjøre operatører for utrulling på ulik maskinvare. 5 Ifølge rapporteringen genererte verktøyet 765 operatører i løpet av kvartalet. Av disse skal 416 ha bestått nøyaktighetsvalidering på minst fem kinesiskutviklede maskinvareplattformer. Det betyr ikke at alle de 765 ble validert, eller at de validerte kjernene matchet eller slo hver plattforms opprinnelige implementasjon.
6
I FlagOS-dokumentasjonen beskrives FlagPrism som et verktøy for feilsøking og ytelsesanalyse av Triton-programmer på flere plattformer. 3 Ifølge rapporteringen støtter det maskinvare fra fem leverandører, deriblant Nvidia og Huawei Ascend.
6 Materialet som er tilgjengelig, oppgir ikke alle leverandørene eller gir en detaljert sammenligning av funksjonene for feilsøking og profilering.
Kvantisering og tilpasning av modeller
FlagOS-Compressor kan konvertere sjekkpunkter, kvantisere modellvekter, kalibrere og validere resultatene. BAAI rapporterer at kvantisering av Qwen3.5-397B-A17B reduserte størrelsen på modellfilene med 49,1 prosent. Rapporten som er sitert, oppgir ikke tilsvarende målinger av nøyaktighet eller hastighet i drift. Filstørrelsen alene sier derfor ikke hva avveiningen er for modellkvalitet eller ytelse. 6
Ifølge den samme rapporteringen kan en ny modell tilpasses opptil 12 maskinvareplattformer fra første dag ved hjelp av rammeverksutvidelser for flere brikker og FlagOS-Compressor. 6 Dette er en rapportert kapasitet. Materialet sier ikke hvilke utvidelser som ble brukt for en bestemt tilpasning, eller gir nok detaljer til at tidsbruken kan etterprøves.
Hva betyr ytelsestallene?
BAAI rapporterer rundt 27 prosent høyere ytelse for operatører på tvers av brikker, basert på tester som omfattet mer enn 1 000 operatører og 10 typer heterogen KI-maskinvare. 6 Dette er et resultat på operatørnivå. Det betyr ikke at en ferdig modell automatisk får 27 prosent bedre ytelse i drift. Resultatet avhenger blant annet av modell, maskinvare, presisjon, arbeidslast og oppsettet for tjenesten.
For et eksempel på drift rapporterer en nyhetsartikkel at gjennomstrømningen for logisk servering av GLM-5.3-Flash på Ascend 910B nådde 2,04 ganger nivået før optimalisering. Utdraget fra kilden gir ikke nok informasjon om arbeidslast og sammenligningsgrunnlag til å overføre resultatet til andre oppsett. Materialet her dokumenterer heller ikke de etterspurte resultatene for China Telecoms Xing4.0-29B-A4B på 10 plattformer.
Hvorfor er gjenbruk av optimalisering viktig?
Konferanseomtalen beskriver en utfordring: KI-modeller utvikler seg raskt, mens infrastrukturen for databehandling gjerne skal være i bruk i flere år. FlagOS skal møte dette ved å gjøre arbeid med operatører, kompilatorer og systemer for bestemte modeller til gjenbrukbare funksjoner som kan tas i bruk på ulike brikker. 8
BAAI hevder også at mer enn 80 prosent av KI-kapasiteten som er satt i drift, bygger på maskinvare som ikke er av nyeste generasjon. Dette er organisasjonens påstand, ikke et tall som er uavhengig bekreftet i kildene som er tilgjengelige her. Hvis premisset stemmer, kan programvareforbedringer som gjør det mulig å kjøre nyere modeller på eksisterende maskinvare, være et alternativ til å bytte ut utstyret. 6
8
Den praktiske konklusjonen er lovende, men begrenset: FlagOS 2.2 rapporterer bredere operatørdekning og verktøy for å dele optimaliseringsarbeid mellom brikker. Hovedtallene gir en pekepinn på prosjektets utvikling, men konkrete utrullinger krever fortsatt testing med den aktuelle arbeidslasten. Rapporteringen som er tilgjengelig, bekrefter ikke uavhengig alle påstander om plattformer, modeller og ytelse.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Fra brikkekompatibilitet til felles KI-optimalisering"?
FlagOS 2.2 handler ikke bare om å få modeller til å kjøre på ulike brikker, men også om å gjenbruke og optimalisere programvare på tvers av dem.
What are the key points to validate first?
FlagOS 2.2 handler ikke bare om å få modeller til å kjøre på ulike brikker, men også om å gjenbruke og optimalisere programvare på tvers av dem. BAAI rapporterer 1 454 operatører og rundt 27 prosent bedre ytelse i tester. Tallene gjelder bestemte tester, ikke nødvendigvis ferdige modeller eller alle driftsoppsett.