AnswersPublished18 sources
Baidu udostępnia ERNIE-5.5-Flash-Base. Co oznacza model 280B?
Baidu opublikowało ERNIE 5.5 Flash Base 5 listopada 2026 r. To model MoE z 280 mld parametrów łącznie i 14 mld aktywnych na token, wytrenowany na 33,5 bln tokenów.
Opublikowane przezEdytowane za pomocą GPT-6 LunaObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Baidu opublikowało ERNIE 5.5 Flash Base 5 listopada 2026 r. To model MoE z 280 mld parametrów łącznie i 14 mld aktywnych na token, wytrenowany na 33,5 bln tokenów.
- To surowy model bazowy, przeznaczony do dalszego dostrajania. Dokumentacja SGLang opisuje obsługę kontekstu do 1 mln tokenów podczas dostrajania i inferencji.
- Wyniki Baidu są mocne w kilku testach wiedzy i programowania, ale model nie wygrywa we wszystkich porównaniach, a jego licencja wymaga sprawdzenia.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu udostępniło ERNIE-5.5-Flash-Base na Hugging Face 5 listopada 2026 r. To tekstowy model bazowy typu mixture of experts (MoE), który można pobrać: ma 280 mld parametrów łącznie, z czego 14 mld aktywuje się przy przetwarzaniu każdego tokenu. Baidu podaje, że model wytrenowano od podstaw na 33,5 bln tokenów.1
3
6
Warto rozróżnić te liczby: 280 mld opisuje całkowitą pojemność modelu, a 14 mld — parametry używane przy obsłudze pojedynczego tokenu. Nie oznacza to, że sam plik modelu ma rozmiar odpowiadający 14 mld parametrów. To również model bazowy, a nie gotowy, dostrojony do poleceń asystent.6
Co zawiera ta publikacja?
Udostępniony checkpoint odpowiada stanowi po pretreningu, przed dalszym etapem treningu i dostrajania. Dokumentacja SGLang wskazuje, że może służyć jako punkt wyjścia do adaptacji domenowej, dostrajania instrukcyjnego i badań nad uczeniem ze wzmocnieniem. Zespoły chcące wykorzystać go w aplikacji asystenckiej mogą więc potrzebować dodatkowego treningu.
Dokumentacja rozróżnia limity kontekstu w zależności od etapu: do 128 tys. tokenów podczas treningu oraz do 1 mln tokenów przy dostrajaniu i inferencji, czyli generowaniu odpowiedzi przez model. SGLang opisuje również wdrażanie modelu z kontekstem do 1 mln tokenów.
Na Hugging Face dostępna jest wersja FP8, a osobno udostępniono wariant BF16. SGLang wymienia obsługę obu formatów.5 To duże checkpointy — sama liczba parametrów nie mówi jeszcze, jakiej infrastruktury potrzeba do ich uruchomienia.
Jak działa architektura MoE?
W modelu mixture of experts nie wszystkie parametry są wykorzystywane przy każdym tokenie. W przypadku ERNIE liczby 280 mld parametrów łącznie i 14 mld aktywnych odzwierciedlają właśnie taką rzadką, czyli selektywnie uruchamianą, architekturę.6
Według dokumentacji SGLang model ma 37 warstw z mocno skompresowaną uwagą oraz sześć warstw z pełnym kontekstem, wykorzystujących wielogłowicową uwagę latentną i uwagę rzadką. Wymieniono też 512 ekspertów, z których w każdej warstwie MoE wybieranych jest 10, obok eksperta współdzielonego. Te informacje opisują konstrukcję modelu, ale same w sobie nie dowodzą konkretnej przewagi pod względem szybkości czy kosztu działania.
Baidu podaje, że do treningu wykorzystano optymalizator Muon i mieszaną precyzję FP8 na tysiącach GPU. Materiały firmy opisują również FlashMask-4 — kernel uwagi przeznaczony do pracy z dużymi wymiarami głowic.6
Według Baidu FlashMask-4 na układach SM100 zapewnia do 175% szybsze przejście w przód i do 74% szybsze przejście wstecz niż FlashAttention-4 MaskMod.4 Są to deklarowane przez producenta wyniki dotyczące kernela, a nie dowód, że cały model będzie działał o 175% szybciej w rzeczywistym wdrożeniu.
Jak wypadają wyniki benchmarków?
W opublikowanych przez Baidu wynikach ERNIE osiąga wysokie oceny w kilku testach wiedzy i programowania, między innymi w porównaniu z DeepSeek-V4-Flash-Base. To wyniki benchmarków przedstawione przez Baidu, a nie niezależne powtórzenie testów.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
W teście MMLU z pięcioma przykładami w kontekście ERNIE uzyskało 93,3, przed DeepSeek-V4-Flash-Base z wynikiem 89,4, Hy3-preview (87,5) i MiMo-V2.5 (87,6).4 Nie jest to jednak zwycięstwo w każdej kategorii: w przedstawionych porównaniach DeepSeek osiągnął lepszy wynik w ChineseSimpleQA i InfiniteBench.
7
14
W praktyce ERNIE-5.5-Flash-Base to model o dużej całkowitej pojemności, z selektywnie aktywowanymi parametrami i udokumentowaną obsługą długiego kontekstu. Wyniki wyglądają obiecująco w kilku obszarach, ale przed wdrożeniem warto sprawdzić je pod kątem konkretnego zastosowania — oraz dokładnie zapoznać się z licencją.
Wdrożenie i licencja
SGLang wymienia obsługę checkpointów FP8 i BF16 oraz udostępnia instrukcje wdrożenia, w tym dotyczące dekodowania spekulacyjnego ECHO. Strona modelu na Hugging Face wskazuje niestandardową licencję ERNIE 5.5 Flash Base Model License Agreement v1.0. Umowa odsyła także do zasad dopuszczalnego użycia, dlatego dostępność wag nie oznacza automatycznie, że można korzystać z nich bez ograniczeń. Przed wykorzystaniem modelu w produkcie należy sprawdzić warunki licencji.19
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Baidu udostępnia ERNIE-5.5-Flash-Base. Co oznacza model 280B?"?
Baidu opublikowało ERNIE 5.5 Flash Base 5 listopada 2026 r. To model MoE z 280 mld parametrów łącznie i 14 mld aktywnych na token, wytrenowany na 33,5 bln tokenów.
What are the key points to validate first?
Baidu opublikowało ERNIE 5.5 Flash Base 5 listopada 2026 r. To model MoE z 280 mld parametrów łącznie i 14 mld aktywnych na token, wytrenowany na 33,5 bln tokenów. To surowy model bazowy, przeznaczony do dalszego dostrajania. Dokumentacja SGLang opisuje obsługę kontekstu do 1 mln tokenów podczas dostrajania i inferencji.
What should I do next in practice?
Wyniki Baidu są mocne w kilku testach wiedzy i programowania, ale model nie wygrywa we wszystkich porównaniach, a jego licencja wymaga sprawdzenia.