openPangu 2.0 Pro on MoE malli, jossa on noin 505 miljardia parametria, mutta vain noin 18 miljardia aktivoituu tokenia kohden. Huawei on julkaissut mallipainot, perusinferenssikoodin ja teknisen raportin.
Research answer

Create a landscape editorial hero image for this Studio Global article: How does Huawei’s open-sourcing of openPangu-2.0-Pro—a 505B-parameter MoE model with roughly 180B active parameters, 512K context, 34T-token. Article summary: One correction: openPangu-2.0-Pro has about 505B total parameters but roughly 18B—not 180B—activated per token. The release is significant because it makes an Ascend-native, non-NVIDIA path inspectable from model design . Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Huawein openPangu-2.0-Pro ei ole pelkkä uusi mallipainojulkaisu, mutta sitä ei kannata myöskään kutsua täysin toistettavaksi koulutusreseptiksi. Julkaisu avaa merkittävän väylän suuren kielimallin tutkimiseen ja käyttöönottoon Huawein Ascend-alustalla. Se ei vielä kerro ulkopuoliselle organisaatiolle kaikkea, mitä alkuperäisen, erittäin suuren koulutusajon rakentaminen uudelleen vaatisi.
Keskeinen täsmennys on tärkeä: Pro on mixture-of-experts- eli MoE-malli, jossa on yhteensä noin 505 miljardia parametria, mutta tokenia kohden aktivoituu noin 18 miljardia parametria – ei 180 miljardia. Mallin konteksti-ikkuna on 512K tokenia, ja esikoulutukseen käytettiin mallikortin mukaan noin 34 biljoonaa tokenia. 21
Huawei ilmoitti 31.7.2026 julkaisseensa openPangu-2.0-Pro-mallin painot, perusinferenssikoodin ja teknisen raportin. Yhtiön mukaan openPangu 2.0:n muita osia tuodaan avoimille kanaville vaiheittain. 12
Julkaisun osat palvelevat eri tarkoituksia:
Huawein HDC 2026 -tapahtumassa esitelty suunnitelma käsitteli seitsemän komponentin asteittaista avaamista. Näihin kuuluvat esikoulutuskoodi, jälkikoulutuskoodi ja koulutusoperaattorit. 2
10 Jos ne julkaistaan käyttökelpoisessa muodossa, kokonaisuus lähestyy aidosti koulutuksesta inferenssiin ulottuvaa pinoa selvästi pidemmälle kuin pelkkiin painoihin rajoittuvat julkaisut.
Avoimet mallipainot eivät yksin tee mallista koulutustasolla toistettavaa. Niillä voi testata julkaistua tarkistuspistettä, mutta ne eivät paljasta kaikkia ehtoja, joilla sama tarkistuspiste on alun perin tuotettu.
Noin 34 biljoonan tokenin esikoulutuksen rakentaminen uudelleen edellyttäisi ainakin tarkkaa koulutusdataa tai sen toistettavaa muodostusohjetta, täydellisiä koulutus- ja jälkikoulutusratkaisuja, hyperparametreja, laskentaklusterin topologiaa, ohjelmisto- ja kääntäjäversioita, hajautetun koulutuksen asetuksia, mahdollisia mukautettuja operaattoreita, arviointijärjestelyä sekä riittävää yhteensopivaa laitteistoa.
Nykyiset julkaistut materiaalit vahvistavat painojen, perusinferenssikoodin ja raportin saatavuuden, kun taas lisäkomponenttien kerrotaan tulevan vaiheittain. 12
21 Täsmällisin kuvaus on siksi: Ascend-ensin suunniteltu avoin mallijulkaisu, jolla on ilmoitettu polku kohti laajempaa pinon läpinäkyvyyttä. Se ei vielä osoita, että ulkopuolinen toimija pystyisi toisintamaan alkuperäisen koulutusajon itsenäisesti.
Mallin suuri kokonaisparametrimäärä yhdistyy ratkaisuihin, joiden tavoitteena on hillitä pitkän kontekstin ja generoinnin kustannuksia.
MoE-mallissa kukin token ohjataan vain osalle asiantuntijaparametreista. Pron mallikortin mukaan mallissa on noin 505 miljardia parametria, joista tokenia kohden aktivoituu noin 18 miljardia. 21
Tämä ei tee mallista kevyttä: 505 miljardin parametrin mallin tallennus, palvelu ja mallin osien välinen tiedonsiirto vaativat edelleen huomattavaa infrastruktuuria. Se kuitenkin vähentää yksittäisen tokenin laskennassa käytettävää parametrimäärää verrattuna yhtä suureen tiheään malliin.
openPangu-2.0-Pro säilyttää MLA-ratkaisun ja yhdistää DSA:n sekä liukuvaan ikkunaan perustuvan tarkkaavuuden, SWA:n, suhteessa 1:2. Huawein mukaan SWA-kerrokset mallintavat paikallista ikkunaa, kun DSA-kerrokset kokoavat harvaa globaalia kontekstia. Tavoitteena on vähentää pitkän kontekstin inferenssin laskentaa, muistijalanjälkeä ja muistihakujen kustannusta tarkkuutta säilyttäen. 21
Ratkaisu kohdistuu 512K-kontekstin perusongelmaan: kaikkien tokenien välinen täysi tarkkaavuus käy nopeasti kalliiksi. Paikallinen tarkkaavuus käsittelee läheistä tietoa edullisemmin, ja harvat globaalit mekanismit pyrkivät pitämään olennaisen kaukaisen aineiston saatavilla.
Huawei kuvaa myös nelivirtaista mHC-residuaalitopologiaa, jonka tarkoitus on lisätä esitysten monimuotoisuutta ja parantaa yleistettävyyttä. Kolmipäinen usean tokenin ennustemoduuli ennustaa ylimääräisiä tulevia tokeneita, millä pyritään nopeuttamaan inferenssiä. Mallikortin mukaan koulutuksessa käytetään Muon-optimointimenetelmää nopeamman konvergenssin tavoittelemiseksi. 21
Nämä ovat Huawein omissa materiaaleissa esitettyjä arkkitehtuuri- ja optimointiväitteitä, eivät riippumaton osoitus samasta nopeusparannuksesta kaikissa ympäristöissä. Käytännön viive ja läpimeno riippuvat muun muassa kiihdytinkokoonpanosta, tarkkuudesta, eräkoosta, kontekstin pituudesta, kuormitusprofiilista ja palvelinohjelmistosta.
512K-tokenin ikkuna voi mahdollistaa aiempaa suuremman aineistomäärän pitämisen samassa agentti-istunnossa: esimerkiksi ohjeistukset, sopimukset, lokit, aiempien työkalukutsujen tulokset ja tekniset määrittelyt. Se voi vähentää aineiston aggressiivista pilkkomista, mutta ei poista tiedonhaun, käyttöoikeuksien, lähteiden tarkistamisen tai ihmisen hyväksynnän tarvetta.
Mahdollisia käyttökohteita ovat esimerkiksi:
Monille pienemmille organisaatioille Pro jää MoE-rakenteestaan huolimatta vaikeaksi itse ylläpidettäväksi. Huawei on julkaissut myös openPangu-2.0-Flash-version, jossa on 92 miljardia parametria ja 6 miljardia tokenia kohden aktivoituvaa parametria. Se voi olla realistisempi vaihtoehto kokeiluihin ja käyttöönottoon. 15
20
Huawei raportoi openPangu-2.0-Pro Thinking -version saavuttaneen 68,5 pistettä SWE-bench Verified -vertailussa. 24 Tulos on huomionarvoinen, mutta se ei osoita mallin kykenevän omistamaan luotettavasti monimutkaista tuotanto-ohjelmistotyötä.
Todellisissa koodikannoissa tarvitaan ympäristön pystytystä, riippuvuuksien hallintaa, testien ajoa, tietoturvakatselmuksia, arkkitehtuuriratkaisuja, muuttuvien vaatimusten tulkintaa ja pitkäjänteistä virheiden selvittämistä. Järkevä käyttömalli on valvottu koodausagentti, jolla on rajatut repositoriokohtaiset oikeudet, eristetty ajokäyttöympäristö, automaattiset testit, staattinen analyysi, koodikatselmointi ja palautusmenettelyt – ei automaattinen yhdistäminen päähaaraan.
Julkaisun strateginen arvo ei rajoitu mallipainoihin. Ascend-alkuperäinen referenssimalli voi houkutella kehittäjiä rakentamaan, testaamaan ja optimoimaan kuormia Ascendille. Nämä kuormat puolestaan kasvattavat tarvetta paremmille ajonaikaisille ympäristöille, operaattoreille, työkaluille ja hallituille palveluille.
Huawei ohjaa kehittäjät, yrityskumppanit ja tutkijat Ascend Tribe -yhteisöön sekä Huawei Cloudin MaaS-palveluun latauksia, käyttöä ja palautetta varten. 12 Flash- ja Pro-versioiden julkaiseminen eri kokoluokissa laajentaa mahdollista käyttäjäkuntaa, ja suunnitellut koulutus-, jälkikoulutus- ja operaattorikomponentit kohdistuvat niihin ohjelmistokerroksiin, jotka ratkaisevat, onko laitteistoalusta käytännössä käyttökelpoinen mallien rakentajille.
10
15
openPangu 2.0 kannattaa siis ymmärtää ennen kaikkea hankkeena, joka vahvistaa Ascend- ja Pangu-kehitysekosysteemiä. Julkaisu on jo merkityksellinen käyttöönoton, tarkastelun ja kokeilujen kannalta. Täyden toistettavuuden voi kuitenkin arvioida vasta, kun jäljellä olevat koodit, asetukset ja dataan liittyvät tiedot ovat saatavilla – ja riippumattomat toimijat ovat testanneet, mitä kokonaisuudesta voidaan todella rakentaa uudelleen.
Studio Global AI
This page includes a source-backed answer you can continue inside Studio Global.
openPangu 2.0 Pro on MoE malli, jossa on noin 505 miljardia parametria, mutta vain noin 18 miljardia aktivoituu tokenia kohden.
openPangu 2.0 Pro on MoE malli, jossa on noin 505 miljardia parametria, mutta vain noin 18 miljardia aktivoituu tokenia kohden. Huawei on julkaissut mallipainot, perusinferenssikoodin ja teknisen raportin. Se mahdollistaa mallin arvioinnin ja käyttöönoton Ascend ympäristössä, muttei vielä alkuperäisen 34 biljoonan tokenin koulutuksen täydellis...
MoE reititys sekä DSA ja SWA tarkkaavuuden yhdistelmä pyrkivät tekemään pitkän kontekstin käytöstä laskennallisesti ja muistinkäytön kannalta hallittavampaa.