AnswersPublished18 sources
ERNIE 5.5 Flash Base: 280 milliarder parametere, men 14 milliarder aktive per token
Baidu publiserte ERNIE 5.5 Flash Base 5. november 2026. Dette er en grunnmodell før mellom og ettertrening, beregnet som utgangspunkt for videre tilpasning.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Baidu publiserte ERNIE 5.5 Flash Base 5. november 2026.
- Dette er en grunnmodell før mellom og ettertrening, beregnet som utgangspunkt for videre tilpasning.
- Baidu rapporterer gode resultater på flere kunnskaps og kodeprøver, men modellen leder ikke på alle sammenligninger.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu publiserte ERNIE-5.5-Flash-Base på Hugging Face 5. november 2026. Modellen er en nedlastbar, tekstbasert grunnmodell med en blanding-av-eksperter-arkitektur (MoE): 280 milliarder parametere totalt, med 14 milliarder aktivert for hvert token. Baidu oppgir at modellen ble forhåndstrent fra bunnen av på 33,5 billioner tokens.1
3
6
Tallene beskriver to ulike ting: 280 milliarder er modellens samlede kapasitet, mens 14 milliarder er delen som brukes for hvert token. De 14 milliardene er altså ikke størrelsen på hele modellen. Og siden dette er en grunnmodell, er den et utgangspunkt for videre trening – ikke en ferdig, instruksjonstilpasset chatbot.6
Et utgangspunkt for videre tilpasning
SGLang beskriver sjekkpunktet som modellen ved slutten av forhåndstreningen, før mellom- eller ettertrening. Dokumentasjonen peker på domenetilpasning, instruksjonstilpasning og forskning på forsterkende læring som mulige bruksområder. For utviklere betyr det at modellen kan være relevant dersom de vil forme den for egne oppgaver, men at det kan være nødvendig med mer trening før den passer til en assistentløsning.
Oppgitt kontekstlengde er opptil 128 000 tokens under trening og opptil 1 million tokens ved finjustering og inferens – det vil si når modellen brukes til å generere svar. SGLang dokumenterer også distribusjon med kontekst på opptil 1 million tokens.
Modellen er tilgjengelig i FP8-format, og en egen BF16-variant er også oppført. SGLang dokumenterer støtte for begge.5 Dette er store modellfiler, så antall aktive parametere alene sier ikke hvor mye maskinvare som trengs for å kjøre modellen.
Hvorfor 14 milliarder parametere er aktive
I en MoE-modell er ikke alle parametrene i bruk for hvert token. ERNIEs oppgitte tall på 280 milliarder totalt og 14 milliarder aktive gjenspeiler denne mer sparsomme arkitekturen.6
Ifølge SGLang består modellen av 37 lag med sterkt komprimert oppmerksomhet og seks lag med full kontekst og multi-head latent attention, kombinert med sparsom oppmerksomhet. Dokumentasjonen oppgir også 512 rutede eksperter, der 10 velges sammen med én delt ekspert i hvert MoE-lag. Dette forklarer deler av konstruksjonen, men dokumenterer ikke i seg selv at modellen alltid gir en bestemt hastighets- eller kostnadsgevinst i praktisk bruk.
Baidu oppgir at modellen ble trent med optimalisatoren Muon og blandet presisjon i FP8 på tusenvis av GPU-er. Selskapets modellmateriale beskriver også FlashMask-4, en oppmerksomhetskjerne laget for store hodestørrelser.6
For FlashMask-4 oppgir Baidu opptil 175 prosent raskere fremoverpassering og 74 prosent raskere bakoverpassering på SM100, sammenlignet med FlashAttention-4 MaskMod.4 Dette er Baidus egne resultater for en programvarekjerne – ikke et løfte om at hele modellen kjører 175 prosent raskere i en faktisk tjeneste.
Benchmarkresultater: sterke tall, men ikke seier overalt
Baidus rapporterte resultater er høye på flere tester av kunnskap og programmering, blant annet sammenlignet med DeepSeek-V4-Flash-Base. Tallene er resultater oppgitt i forbindelse med modellslippet, ikke uavhengige gjentakelser av testene.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
I den oppgitte MMLU-testen med fem eksempler i prompten får ERNIE 93,3, mot 89,4 for DeepSeek-V4-Flash-Base, 87,5 for Hy3-preview og 87,6 for MiMo-V2.5.4 Men resultatene er ingen fullstendig seier: DeepSeek skårer høyere på ChineseSimpleQA og InfiniteBench i de rapporterte sammenligningene.
7
14
Kort oppsummert er dette en grunnmodell med stor samlet kapasitet, færre aktive parametere per token og dokumentert støtte for svært lange kontekster. Resultatene ser lovende ut på flere områder, men bør vurderes opp mot den konkrete oppgaven modellen skal brukes til – og vilkårene i lisensen.
Servering og lisens
SGLang oppgir støtte for både FP8- og BF16-sjekkpunktene og har publisert veiledning for å sette opp modellen, blant annet med ECHO spekulativ dekoding.
Modellsiden på Hugging Face viser en egen lisensavtale, ERNIE 5.5 Flash Base Model License Agreement v1.0. Avtalen viser også til en policy for akseptabel bruk. At vektene kan lastes ned, betyr derfor ikke automatisk at de kan brukes uten begrensninger: Les vilkårene før modellen tas i bruk i et produkt.19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "ERNIE 5.5 Flash Base: 280 milliarder parametere, men 14 milliarder aktive per token"?
Baidu publiserte ERNIE 5.5 Flash Base 5. november 2026.
What are the key points to validate first?
Baidu publiserte ERNIE 5.5 Flash Base 5. november 2026. Dette er en grunnmodell før mellom og ettertrening, beregnet som utgangspunkt for videre tilpasning.
What should I do next in practice?
Baidu rapporterer gode resultater på flere kunnskaps og kodeprøver, men modellen leder ikke på alle sammenligninger.