RespostasPublicado18 fontes
Baidu lança modelo de IA com 280 bilhões de parâmetros — mas ativa 14 bilhões por token
Lançado no Hugging Face em 5 de novembro de 2026, o modelo tem 280 bilhões de parâmetros no total, ativa 14 bilhões por token e foi pré treinado com 33,5 trilhões de tokens. É um checkpoint base, sem etapas de treinamento intermediário ou posterior: serve como ponto de partida para adaptação de domínio e ajuste fino...
Publicado porEditado com GPT-6 LunaImagens geradas com GPT Image 2
Resposta de pesquisa
Principais conclusões
- Lançado no Hugging Face em 5 de novembro de 2026, o modelo tem 280 bilhões de parâmetros no total, ativa 14 bilhões por token e foi pré treinado com 33,5 trilhões de tokens.
- É um checkpoint base, sem etapas de treinamento intermediário ou posterior: serve como ponto de partida para adaptação de domínio e ajuste fino, não como assistente pronto para uso.
- A Baidu reporta resultados fortes em alguns testes de conhecimento e programação, mas o modelo não lidera todas as avaliações e está sujeito a uma licença própria.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Baidu announce on November 5, 2026, with its Hugging Face release of ERNIE-5.5-Flash-Base, and how do its 280B total and 14B active. Article summary: Baidu announced the Hugging Face release of ERNIE-5.5-Flash-Base on November 5, 2026: a downloadable, text-only mixture-of-experts base model with 280 billion total parameters and 14 billion activated per token.[3][4] Th. Topic tags: general, general web, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fak
A Baidu publicou o ERNIE-5.5-Flash-Base no Hugging Face em 5 de novembro de 2026. O modelo de linguagem, baseado em texto e na arquitetura de mistura de especialistas (MoE), tem 280 bilhões de parâmetros no total, mas ativa 14 bilhões para processar cada token. A empresa afirma que ele foi pré-treinado do zero com 33,5 trilhões de tokens.1
3
6
Essa diferença entre parâmetros totais e ativos é central para entender o anúncio: 280 bilhões representam a capacidade total do modelo; 14 bilhões, a parcela mobilizada a cada token. O arquivo do modelo continua sendo de grande porte. Além disso, trata-se de um checkpoint-base, não de um assistente já ajustado para seguir instruções.6
Um ponto de partida para adaptar, não um produto pronto
O checkpoint corresponde ao fim do pré-treinamento, antes de etapas intermediárias ou posteriores. A documentação do SGLang — uma ferramenta para executar modelos de IA — apresenta o modelo como base para adaptação a domínios específicos, ajuste fino para seguir instruções e pesquisa em aprendizado por reforço. Na prática, equipes podem usá-lo como ponto de partida, mas talvez precisem treiná-lo mais para atender a uma aplicação de assistente.
Os limites de contexto também variam conforme o uso: a documentação indica até 128 mil tokens durante o treinamento e até 1 milhão de tokens em ajuste fino e inferência. O SGLang também documenta suporte à implantação com contexto de até 1 milhão de tokens.
A publicação no Hugging Face inclui uma versão FP8, e há uma variante separada em BF16. O SGLang documenta suporte às duas.5 Embora a ativação de 14 bilhões de parâmetros por token ajude a explicar o desenho esparso do modelo, ela não elimina a necessidade de infraestrutura robusta para armazenar e executar os checkpoints.
Como funciona a arquitetura esparsa
Em um modelo de mistura de especialistas, nem todos os parâmetros são usados em cada etapa de processamento. No ERNIE, os 280 bilhões de parâmetros totais e os 14 bilhões ativos por token refletem essa arquitetura esparsa.6
Segundo a documentação do SGLang, o modelo tem 37 camadas de atenção bastante comprimidas e seis camadas de atenção latente multi-cabeça com contexto completo, além de atenção esparsa. A documentação também lista 512 especialistas selecionáveis: em cada camada MoE, são escolhidos 10, junto de um especialista compartilhado. Esses dados descrevem a arquitetura, mas, por si só, não comprovam uma vantagem específica de velocidade ou custo em aplicações reais.
A Baidu afirma que treinou o modelo com o otimizador Muon e precisão mista FP8, usando milhares de GPUs. Os materiais da empresa também descrevem o FlashMask-4 como um kernel de atenção voltado a dimensões de cabeça grandes.6
Para esse kernel, a Baidu reporta, em GPUs SM100, passagens de ida até 175% mais rápidas e passagens de volta até 74% mais rápidas que com o FlashAttention-4 MaskMod.4 São resultados divulgados pela própria empresa para o kernel; não significam que o modelo completo seja 175% mais rápido em uma aplicação real.
O que mostram os benchmarks
Os resultados divulgados pela Baidu indicam bom desempenho em algumas avaliações de conhecimento e programação, inclusive em comparação com o DeepSeek-V4-Flash-Base. São resultados reportados, não confirmações independentes.4
7
| Benchmark | ERNIE-5.5-Flash-Base | DeepSeek-V4-Flash-Base |
|---|---|---|
| MMLU-Pro | 78,4 | 69,2 |
| HumanEval+ | 82,3 | 69,5 |
| LiveCodeBench | 40,1 | 31,9 |
| ChineseSimpleQA | 73,0 | 75,3 |
Na avaliação MMLU com cinco exemplos de referência (5-shot), o ERNIE marcou 93,3, à frente do DeepSeek-V4-Flash-Base, com 89,4; do Hy3-preview, com 87,5; e do MiMo-V2.5, com 87,6.4 Mas não houve vitória em todas as comparações: o DeepSeek teve pontuação maior no ChineseSimpleQA e no InfiniteBench, segundo os resultados divulgados.
7
14
Em resumo, o lançamento combina grande capacidade total, ativação esparsa por token e suporte documentado a contextos longos. Os resultados são promissores em algumas áreas, mas a escolha deve considerar a tarefa específica, os recursos de computação disponíveis e os termos da licença.
Implantação e licença
O SGLang lista suporte tanto aos checkpoints FP8 quanto aos BF16 e fornece instruções de implantação, incluindo decodificação especulativa ECHO. A página do modelo no Hugging Face informa que ele está sujeito ao ERNIE 5.5 Flash Base Model License Agreement v1.0. O acordo também faz referência a uma política de uso aceitável. Portanto, o fato de os pesos estarem disponíveis para download não significa que o uso seja irrestrito: vale consultar as condições da licença antes de incorporar o modelo a um produto.19
Studio Global AI
Continue sua pesquisa
Esta página inclui uma resposta baseada na fonte que você pode continuar em Studio Global.
As pessoas também perguntam
Qual é a resposta curta para "Baidu lança modelo de IA com 280 bilhões de parâmetros — mas ativa 14 bilhões por token"?
Lançado no Hugging Face em 5 de novembro de 2026, o modelo tem 280 bilhões de parâmetros no total, ativa 14 bilhões por token e foi pré treinado com 33,5 trilhões de tokens.
Quais são os pontos-chave para validar primeiro?
Lançado no Hugging Face em 5 de novembro de 2026, o modelo tem 280 bilhões de parâmetros no total, ativa 14 bilhões por token e foi pré treinado com 33,5 trilhões de tokens. É um checkpoint base, sem etapas de treinamento intermediário ou posterior: serve como ponto de partida para adaptação de domínio e ajuste fino, não como assistente pronto para uso.
O que devo fazer a seguir na prática?
A Baidu reporta resultados fortes em alguns testes de conhecimento e programação, mas o modelo não lidera todas as avaliações e está sujeito a uma licença própria.