AnswersPublished18 sources
Baidu brengt een ERNIE-basismodel met 280 miljard parameters uit
Baidu publiceerde ERNIE 5.5 Flash Base op 5 november 2026. Het model telt 280 miljard parameters, waarvan er per token 14 miljard actief zijn.
Gepubliceerd doorBewerkt met GPT-6 LunaAfbeeldingen gegenereerd met GPT Image 2
Research answer
Key takeaways
- Baidu publiceerde ERNIE 5.5 Flash Base op 5 november 2026. Het model telt 280 miljard parameters, waarvan er per token 14 miljard actief zijn.
- Het checkpoint is het resultaat van pretraining, zonder verdere mid of post training.
- De gerapporteerde benchmarks zijn sterk op verschillende kennis en programmeertests, maar ERNIE scoort niet op alle vergelijkingen het hoogst.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu heeft ERNIE-5.5-Flash-Base op 5 november 2026 beschikbaar gemaakt via Hugging Face. Het gaat om een downloadbaar, tekstgebaseerd basismodel met een zogeheten mixture-of-experts-architectuur: 280 miljard parameters in totaal, waarvan er voor elk token 14 miljard worden geactiveerd. Volgens Baidu is het model vanaf nul getraind op 33,5 biljoen tokens.1
3
6
Die twee parametergetallen betekenen niet hetzelfde. De 280 miljard geven de totale omvang van het model aan; 14 miljard is het deel dat per token wordt ingezet. Ook is dit geen kant-en-klare chatbot: het checkpoint staat aan het einde van de pretraining, vóór verdere training om het model bijvoorbeeld als assistent te laten functioneren.6
Een basismodel om verder op te bouwen
SGLang beschrijft ERNIE-5.5-Flash-Base als uitgangspunt voor domeinaanpassing, instructietuning en onderzoek naar reinforcement learning. Organisaties kunnen het dus verder afstemmen op hun toepassing, maar daarvoor kan aanvullende training nodig zijn.
De contextlimiet verschilt per gebruiksfase: tijdens de training ondersteunt het model maximaal 128.000 tokens, terwijl voor fine-tuning en inferentie tot 1 miljoen tokens wordt vermeld. SGLang documenteert eveneens ondersteuning voor contexten tot 1 miljoen tokens bij het draaien van het model.
Er zijn gewichten beschikbaar in FP8 en in een aparte BF16-variant; SGLang documenteert ondersteuning voor beide.5 De modelomvang betekent dat de parametercount op zichzelf niet vertelt welke hardware of infrastructuur nodig is om het model te draaien.
Wat de MoE-architectuur inhoudt
Bij een mixture-of-experts-model wordt niet elk onderdeel voor ieder token gebruikt. De opgegeven 280 miljard totale en 14 miljard actieve parameters passen bij die aanpak.6
Volgens SGLang heeft het model 37 sterk gecomprimeerde aandachtslagen en zes lagen die toegang houden tot de volledige context via multi-head latent attention. De documentatie noemt ook sparse attention en 512 routeerbare experts. Per MoE-laag worden er 10 geselecteerd, naast een gedeelde expert. Deze architectuurdetails beschrijven hoe het model is opgebouwd, maar bewijzen op zichzelf geen specifieke snelheids- of kostenwinst in een complete toepassing.
Baidu zegt dat het model is getraind met de Muon-optimizer en FP8-mixed precision, verdeeld over duizenden GPU’s. In het materiaal van Baidu wordt FlashMask-4 beschreven als een aandachtskernel voor grote head-dimensies.6
Voor die kernel rapporteert Baidu op SM100-hardware tot 175% snellere forward passes en 74% snellere backward passes dan FlashAttention-4 MaskMod.4 Dit zijn resultaten van de leverancier voor de kernel; ze betekenen niet dat het volledige model in een praktijksituatie 175% sneller draait.
Sterke benchmarks, maar geen clean sweep
De door Baidu gerapporteerde resultaten zijn sterk op meerdere kennis- en programmeertests, waaronder enkele vergelijkingen met DeepSeek-V4-Flash-Base. Het gaat om gepubliceerde benchmarkresultaten, niet om onafhankelijke herhalingen.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
Bij de vermelde MMLU-test met vijf voorbeelden scoort ERNIE 93,3. DeepSeek-V4-Flash-Base komt uit op 89,4, Hy3-preview op 87,5 en MiMo-V2.5 op 87,6.4 Het beeld is niet overal hetzelfde: DeepSeek scoort hoger op ChineseSimpleQA en InfiniteBench in de gerapporteerde vergelijkingen.
7
14
De kern: ERNIE-5.5-Flash-Base combineert een grote totale modelcapaciteit met een relatief klein actief deel per token en gedocumenteerde ondersteuning voor lange contexten. De resultaten zijn veelbelovend voor verschillende taken, maar wie het model wil inzetten, doet er goed aan het te toetsen op de eigen toepassing én de licentievoorwaarden te bekijken.
Draaien en licentie controleren
SGLang vermeldt ondersteuning voor zowel de FP8- als BF16-gewichten en biedt instructies om het model te draaien, waaronder met ECHO speculative decoding. De modelpagina op Hugging Face vermeldt de eigen ERNIE 5.5 Flash Base Model License Agreement v1.0. In die overeenkomst wordt ook verwezen naar een beleid voor aanvaardbaar gebruik. Dat gewichten te downloaden zijn, betekent dus niet automatisch dat elk gebruik is toegestaan: controleer de voorwaarden voordat je het model in een product inzet.19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Baidu brengt een ERNIE-basismodel met 280 miljard parameters uit"?
Baidu publiceerde ERNIE 5.5 Flash Base op 5 november 2026. Het model telt 280 miljard parameters, waarvan er per token 14 miljard actief zijn.
What are the key points to validate first?
Baidu publiceerde ERNIE 5.5 Flash Base op 5 november 2026. Het model telt 280 miljard parameters, waarvan er per token 14 miljard actief zijn. Het checkpoint is het resultaat van pretraining, zonder verdere mid of post training.
What should I do next in practice?
De gerapporteerde benchmarks zijn sterk op verschillende kennis en programmeertests, maar ERNIE scoort niet op alle vergelijkingen het hoogst.