RéponsesPublié18 sources
ERNIE-5.5-Flash-Base : ce que le modèle de Baidu change pour les équipes IA
ERNIE 5.5 Flash Base compte 280 milliards de paramètres au total, dont 14 milliards sont activés pour chaque jeton. Il s’agit d’un checkpoint de base, sans entraînement intermédiaire ni post entraînement : il est destiné notamment à l’adaptation à un domaine, au réglage fin pour suivre des instructions et à la reche...
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- ERNIE 5.5 Flash Base compte 280 milliards de paramètres au total, dont 14 milliards sont activés pour chaque jeton.
- Il s’agit d’un checkpoint de base, sans entraînement intermédiaire ni post entraînement : il est destiné notamment à l’adaptation à un domaine, au réglage fin pour suivre des instructions et à la recherche sur l’appre...
- Les résultats publiés sont élevés sur plusieurs tests de connaissances et de programmation, mais le modèle ne devance pas systématiquement ses concurrents.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
Baidu a publié ERNIE-5.5-Flash-Base sur Hugging Face le 5 novembre 2026. Ce modèle de langage textuel à architecture « mixture of experts » (MoE) compte 280 milliards de paramètres au total, mais en active 14 milliards pour chaque jeton. Baidu indique l’avoir préentraîné à partir de zéro sur 33 500 milliards de jetons.1
3
6
La distinction entre ces deux chiffres est importante : les 280 milliards décrivent la capacité totale du modèle, tandis que les 14 milliards correspondent à la partie mobilisée pour traiter chaque jeton. Ce n’est donc pas un modèle de 14 milliards de paramètres au total. Et malgré la mise à disposition de ses poids, ERNIE-5.5-Flash-Base n’est pas un assistant prêt à l’emploi : c’est un checkpoint de base, conçu pour être adapté ou entraîné davantage.6
Un point de départ à personnaliser
Le checkpoint correspond à la fin du préentraînement, avant toute phase d’entraînement intermédiaire ou post-entraînement. La documentation de SGLang le présente comme une base pour l’adaptation à un domaine, le réglage fin destiné à suivre des instructions et la recherche sur l’apprentissage par renforcement. Les équipes qui veulent l’intégrer à une application d’assistance devront donc probablement le préparer à cet usage.
Les limites de contexte varient selon l’étape : jusqu’à 128 000 jetons pendant l’entraînement, et jusqu’à un million pour le réglage fin et l’inférence. SGLang documente également le déploiement avec un contexte allant jusqu’à un million de jetons.
La version publiée sur Hugging Face est au format FP8 ; une variante BF16 est aussi disponible, et SGLang documente la prise en charge des deux.5 Ces formats ne font toutefois pas disparaître les besoins matériels associés à un modèle de cette taille : le nombre de paramètres actifs, à lui seul, ne suffit pas à estimer l’infrastructure nécessaire.
Une architecture clairsemée, pas 280 milliards de paramètres mobilisés à chaque fois
Dans un modèle MoE, différents « experts » contribuent selon les jetons traités ; l’ensemble des paramètres n’est donc pas sollicité à chaque étape. Les chiffres annoncés par Baidu — 280 milliards au total, 14 milliards actifs par jeton — reflètent cette architecture clairsemée.6
SGLang décrit 37 couches d’attention fortement compressées et six couches d’attention latente multi-têtes avec accès au contexte complet, ainsi qu’un mécanisme d’attention clairsemée. La documentation mentionne également 512 experts routés, dont 10 sont sélectionnés dans chaque couche MoE, en plus d’un expert partagé. Ces éléments décrivent le fonctionnement du modèle, mais ne suffisent pas à démontrer, à eux seuls, un gain précis de vitesse ou de coût dans une application réelle.
Baidu indique avoir utilisé l’optimiseur Muon et un entraînement en précision mixte FP8 sur des milliers de GPU. Les informations publiées par l’entreprise présentent aussi FlashMask-4, un noyau d’attention conçu pour les grandes dimensions de tête.6
Pour FlashMask-4, Baidu revendique sur les GPU SM100 des passes avant jusqu’à 175 % plus rapides et des passes arrière jusqu’à 74 % plus rapides que FlashAttention-4 MaskMod.4 Ces chiffres portent sur un noyau logiciel et constituent des résultats communiqués par Baidu ; ils ne signifient pas que le modèle complet répond 175 % plus vite dans une charge de service réelle.
Des résultats solides sur certains benchmarks, pas un sans-faute
Les résultats publiés par Baidu montrent des scores élevés sur plusieurs évaluations de connaissances et de programmation, notamment face à DeepSeek-V4-Flash-Base. Ils restent des résultats de benchmark rapportés, et non des mesures reproduites de façon indépendante.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
Sur MMLU avec cinq exemples de démonstration (évaluation « 5-shot »), ERNIE obtient 93,3, contre 89,4 pour DeepSeek-V4-Flash-Base, 87,5 pour Hy3-preview et 87,6 pour MiMo-V2.5.4 Mais le tableau n’est pas entièrement à l’avantage de Baidu : DeepSeek affiche un meilleur score sur ChineseSimpleQA et InfiniteBench dans les comparaisons rapportées.
7
14
Le bilan dépend donc de la tâche visée. ERNIE-5.5-Flash-Base associe une grande capacité totale, une activation clairsemée et une prise en charge documentée des contextes longs ; ses performances publiées sont prometteuses sur plusieurs tests, sans établir une supériorité générale. Pour un projet concret, il faut évaluer le modèle sur les tâches prévues et vérifier les conditions de licence.
Déploiement et conditions d’utilisation
SGLang documente la prise en charge des checkpoints FP8 et BF16, ainsi que des instructions de déploiement, notamment avec le décodage spéculatif ECHO. La page Hugging Face indique que le modèle est fourni sous l’accord de licence ERNIE 5.5 Flash Base Model License Agreement v1.0. Cet accord renvoie également à une politique d’utilisation acceptable : la disponibilité des poids ne signifie donc pas que leur usage est sans restriction. Il est prudent de lire les conditions avant d’intégrer le modèle à un produit.19
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « ERNIE-5.5-Flash-Base : ce que le modèle de Baidu change pour les équipes IA » ?
ERNIE 5.5 Flash Base compte 280 milliards de paramètres au total, dont 14 milliards sont activés pour chaque jeton.
Quels sont les points clés à valider en premier ?
ERNIE 5.5 Flash Base compte 280 milliards de paramètres au total, dont 14 milliards sont activés pour chaque jeton. Il s’agit d’un checkpoint de base, sans entraînement intermédiaire ni post entraînement : il est destiné notamment à l’adaptation à un domaine, au réglage fin pour suivre des instructions et à la recherche sur l’appre...
Que dois-je faire ensuite en pratique ?
Les résultats publiés sont élevés sur plusieurs tests de connaissances et de programmation, mais le modèle ne devance pas systématiquement ses concurrents.