AntwortenVeröffentlicht18 Quellen
Baidus neues KI-Modell: 280 Milliarden Parameter, aber nur 14 Milliarden aktiv
Baidu stellte ERNIE 5.5 Flash Base am 5. November 2026 auf Hugging Face bereit. Der Checkpoint stammt direkt aus dem Vortraining und ist noch kein fertiger Chatbot.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Baidu stellte ERNIE 5.5 Flash Base am 5. November 2026 auf Hugging Face bereit.
- Der Checkpoint stammt direkt aus dem Vortraining und ist noch kein fertiger Chatbot.
- Bei mehreren Wissens und Coding Benchmarks meldet Baidu gute Ergebnisse; bei ChineseSimpleQA und InfiniteBench liegt DeepSeek in den angeführten Vergleichen vorn.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu hat ERNIE-5.5-Flash-Base am 5. November 2026 auf Hugging Face veröffentlicht. Das herunterladbare, textbasierte Mixture-of-Experts-Modell umfasst laut Baidu 280 Milliarden Parameter, aktiviert davon aber nur 14 Milliarden pro verarbeitetem Token. Trainiert worden sei es von Grund auf mit 33,5 Billionen Token.1
3
6
Die beiden Größen beschreiben Unterschiedliches: 280 Milliarden stehen für die gesamte Kapazität des Modells, 14 Milliarden für den jeweils aktiven Teil. ERNIE-5.5-Flash-Base ist außerdem ein Basismodell, kein fertig auf Anweisungen trainierter Chat-Assistent.6
Ein Ausgangspunkt für eigenes Training
Der veröffentlichte Checkpoint entspricht laut SGLang dem Stand nach dem Vortraining – also noch vor Zwischen- oder Nachtraining. Als mögliche Einsatzfelder nennt die Dokumentation die Anpassung an bestimmte Fachgebiete, Instruction-Tuning und Forschung zu Reinforcement Learning. Wer daraus eine Assistenz-Anwendung machen will, muss das Modell daher voraussichtlich weiter trainieren und auf den jeweiligen Zweck abstimmen.
Bei den Kontextlängen unterscheidet die Spezifikation zwischen Training und späterer Nutzung: Für das Training werden bis zu 128.000 Token angegeben, für Feinabstimmung und Inferenz bis zu einer Million. Auch die SGLang-Dokumentation beschreibt Bereitstellung mit einem Kontextfenster von bis zu einer Million Token.
Auf Hugging Face gibt es eine FP8-Version; zusätzlich ist eine BF16-Variante verfügbar. SGLang führt beide als unterstützte Modelle.5 Die Größe des Modells lässt sich allerdings nicht allein an der Zahl aktiver Parameter ablesen: Auch die konkreten Anforderungen an Hardware und Betrieb hängen von der Bereitstellung ab.
Was die MoE-Architektur bedeutet
Bei einem Mixture-of-Experts-Modell werden nicht alle Parameter für jedes einzelne Token genutzt. ERNIE verbindet eine Gesamtkapazität von 280 Milliarden Parametern mit 14 Milliarden aktiven Parametern pro Token.6
SGLang beschreibt die Architektur als Kombination aus 37 stark komprimierenden Attention-Layern und sechs Layern mit voller Kontextaufmerksamkeit und Multi-Head Latent Attention. Dazu kommt Sparse Attention. Für die MoE-Layer nennt die Dokumentation 512 geroutete Experten: Pro Layer werden zehn davon sowie ein gemeinsamer Experte ausgewählt.
Baidu gibt an, beim Training den Muon-Optimierer und FP8-Mixed-Precision auf Tausenden GPUs eingesetzt zu haben. In den Modellmaterialien wird außerdem FlashMask-4 als Attention-Kernel für große Head-Dimensionen beschrieben.6
Für FlashMask-4 meldet Baidu auf SM100-Hardware Vorwärtsläufe, die bis zu 175 Prozent schneller seien, sowie Rückwärtsläufe, die bis zu 74 Prozent schneller seien als mit FlashAttention-4 MaskMod.4 Das sind vom Anbieter berichtete Ergebnisse für den Kernel – kein Nachweis, dass das gesamte Modell in einer realen Anwendung entsprechend schneller läuft.
Was die Benchmark-Ergebnisse zeigen
In den von Baidu veröffentlichten Vergleichen schneidet ERNIE bei mehreren Wissens- und Coding-Tests besser ab als DeepSeek-V4-Flash-Base. Die Werte stammen aus den berichteten Benchmark-Auswertungen und sind keine unabhängigen Wiederholungen der Tests.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
Beim aufgeführten MMLU-Test mit fünf Beispielen im Prompt erreicht ERNIE 93,3 Punkte. DeepSeek-V4-Flash-Base kommt auf 89,4, Hy3-preview auf 87,5 und MiMo-V2.5 auf 87,6.4 Das Bild ist dennoch nicht durchgehend: In den berichteten Vergleichen liegt DeepSeek bei ChineseSimpleQA und InfiniteBench vorn.
7
14
Unterm Strich ist ERNIE-5.5-Flash-Base ein leistungsstarkes, sparsam aktiviertes Basismodell mit dokumentierter Unterstützung für sehr lange Kontexte. Die gemeldeten Ergebnisse sehen in mehreren Bereichen vielversprechend aus, ersetzen aber nicht den Test mit den eigenen Anwendungsfällen – und die Prüfung der Lizenzbedingungen.
Bereitstellung und Lizenz
SGLang dokumentiert die Unterstützung sowohl für FP8 als auch für BF16 und stellt Anleitungen zur Bereitstellung bereit, unter anderem mit ECHO Speculative Decoding. Auf der Hugging-Face-Modellseite ist eine eigene „ERNIE 5.5 Flash Base Model License Agreement v1.0“ angegeben. Die Vereinbarung verweist zudem auf eine Richtlinie zur zulässigen Nutzung. Dass die Gewichte heruntergeladen werden können, bedeutet daher nicht automatisch, dass sie uneingeschränkt eingesetzt werden dürfen: Vor einer Nutzung in einem Produkt sollte die Lizenz geprüft werden.19
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Baidus neues KI-Modell: 280 Milliarden Parameter, aber nur 14 Milliarden aktiv“?
Baidu stellte ERNIE 5.5 Flash Base am 5. November 2026 auf Hugging Face bereit.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Baidu stellte ERNIE 5.5 Flash Base am 5. November 2026 auf Hugging Face bereit. Der Checkpoint stammt direkt aus dem Vortraining und ist noch kein fertiger Chatbot.
Was soll ich als nächstes in der Praxis tun?
Bei mehreren Wissens und Coding Benchmarks meldet Baidu gute Ergebnisse; bei ChineseSimpleQA und InfiniteBench liegt DeepSeek in den angeführten Vergleichen vorn.