Huawei julkaisi 28. syyskuuta 2026 Ascend alustalle tarkoitetun openPangu 2.0:n esikoulutus , SFT ja jälkikoulutuksen RL koodin.
JulkaisijaMuokattu mallilla GPT-6 LunaKuvat luotu mallilla GPT Image 2
Research answer

Create a landscape editorial hero image for this Studio Global article: What did Huawei open-source for openPangu-2.0 on September 28, 2026, and how does the new Ascend-native pretraining, supervised fine-tuning. Article summary: On September 28, 2026, Huawei open-sourced **Ascend-native code for openPangu-2.0 pretraining, supervised fine-tuning (SFT), and post-training reinforcement learning (RL)**. That is a training-stack release: the earlier . Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Huawein 28. syyskuuta 2026 julkistama openPangu-2.0-julkaisu tuo saataville koodia esikoulutukseen, valvottuun hienosäätöön (SFT) ja vahvistusoppimiseen (RL) perustuvaan jälkikoulutukseen. Keskeinen ero aiempaan on se, että nyt julkaistaan koulutuksen työvaiheisiin tarkoitettuja projekteja: aiemmat Pro- ja Flash-julkaisut tarjosivat mallipainot ja päättelyyn eli mallin käyttämiseen tarvittavaa koodia. Uusi kokonaisuus on suunniteltu Huawein Ascend-koulutusalustalle. 1
2
27
openPangu-2.0-Training kattaa esikoulutuksen ja SFT:n. openPangu-2.0-RL puolestaan keskittyy RL-pohjaiseen jälkikoulutukseen. 1
Kyse on siis koulutuskoodista, ei vain uudesta malliversiosta ladattavaksi. Julkaisutiedot kertovat projektien päätehtävistä, mutta eivät yksinään määritä, millaisia laskentaresursseja, aineistoja tai asetuksia alkuperäisten koulutusajojen toistaminen edellyttäisi. 1
Mallikorttien mukaan molemmat ovat sekoitettujen asiantuntijoiden eli MoE-arkkitehtuurin malleja. Ilmoitetut luvut ovat seuraavat: 19
27
| Malli | Parametreja yhteensä | Aktiivisia parametreja tokenia kohti | Konteksti-ikkuna | Esikoulutuksen tokenit |
|---|---|---|---|---|
| openPangu-2.0-Pro | noin 505 mrd. | noin 18 mrd. | 512 000 tokenia | noin 34 biljoonaa |
| openPangu-2.0-Flash | noin 92 mrd. | noin 6 mrd. | 512 000 tokenia | noin 34 biljoonaa |
Tokenimäärä on kummallekin mallille erikseen ilmoitettu noin 34 biljoonaa, ei mallien yhteenlaskettu lukema. 19
27
Pro- ja Flash-mallien korteissa kuvataan SFT-vaihe, jonka tarkoituksena on yhdistää niin sanottu hidas ja nopea päättely. Sen jälkeen malleja koulutetaan useissa erikoistuneissa RL-vaiheissa, ja kykyjä yhdistetään online-politiikan tislaamisella (OPD). 19
27
Mallikortin kuvaus kertoo mallien ilmoitetusta koulutustavasta. Se on eri asia kuin syyskuussa julkaistu koodi, joka tarjoaa kehittäjille työkaluja koulutuksen eri vaiheisiin. 1
19
27
Korteissa kuvataan multi-head latent attention -huomiomekanismin (MLA) sekä DSA- ja SWA-kerrosten yhdistelmää suhteessa 1:2. Liukuikkunahuomio (SWA) käsittelee paikallista kontekstia, kun taas harva DSA-mekanismi kokoaa tietoa pidemmältä etäisyydeltä. 19
27
Lisäksi korteissa mainitaan neljän virran mHC-rakenne, kolmipäinen monen tokenin ennustusmoduuli (MTP) ja Muon-optimoija. Nämä ovat mallikorteissa kuvattuja ominaisuuksia, eivät syyskuun koodijulkaisussa uutena esiteltyjä toimintoja. 19
27
Aiemmin julkaistujen painojen ja päättelykoodin avulla kehittäjät pystyivät ajamaan Pro- ja Flash-malleja. Uudet projektit laajentavat saatavilla olevia työkaluja esikoulutukseen, SFT:hen ja RL-jälkikoulutukseen. Näin Ascend-alustalla kehittävät voivat työskennellä myös mallien kouluttamisen ja mukauttamisen vaiheissa, eivätkä pelkästään käyttää julkaistuja malliversioita päättelyyn. 1
2
27
Julkaistut tiedot kuvaavat projektien yleisen käyttötarkoituksen, mutta eivät erittele kaikkia tuettuja työnkulkuja tai niiden laitteistovaatimuksia. 1
Studio Global AI
This page includes a source-backed answer you can continue inside Studio Global.
Huawei julkaisi 28. syyskuuta 2026 Ascend alustalle tarkoitetun openPangu 2.0:n esikoulutus , SFT ja jälkikoulutuksen RL koodin.
Huawei julkaisi 28. syyskuuta 2026 Ascend alustalle tarkoitetun openPangu 2.0:n esikoulutus , SFT ja jälkikoulutuksen RL koodin. Pro ja Flash mallien korteissa ilmoitetaan 512 000 tokenin konteksti sekä noin 34 biljoonan tokenin esikoulutus kummallekin mallille.