百度于2026年11月5日在 Hugging Face 发布 ERNIE-5.5-Flash-Base。这是一款可下载权重的纯文本混合专家（MoE）基础模型：总参数量为2800亿，每个 token 会激活其中140亿参数。百度称，模型从零开始使用33.5万亿 token 进行预训练。136

理解这组数字的关键是区分“总参数量”和“每 token 激活参数量”：2800亿代表模型的总规模，140亿则是处理单个 token 时启用的部分，并不意味着整个模型文件只有140亿参数。它发布的也是预训练阶段的基础检查点，而非已经调校成型的指令助手。6

发布的模型适合什么用途？

根据 SGLang 文档，ERNIE-5.5-Flash-Base 是预训练结束时的模型状态，尚未经过中期训练或后训练。它可作为领域适配、指令微调和强化学习研究的起点。 对希望继续训练、定制模型的团队来说，这提供了可用的基础；若要直接用于助手类应用，通常还需要进一步训练和适配。

模型的上下文长度按用途区分：训练阶段最长支持128K token，微调和推理阶段最长支持100万 token。SGLang 的部署文档也列出最长100万 token 的上下文支持。

Hugging Face 上提供 FP8 版本，另有 BF16 版本；SGLang 文档列明支持这两种权重格式。5 不过，这类模型体量庞大，参数量并不能单独说明部署所需的硬件和基础设施。

稀疏架构：总参数多，不代表每个 token 都要调用全部参数

MoE 模型会根据输入选择部分专家参与处理，而不是对每个 token 都启用全部参数。ERNIE 所称的2800亿总参数和140亿激活参数，反映的正是这种稀疏计算设计。6

SGLang 文档介绍，该模型采用37层高度压缩注意力层和6层全上下文多头潜在注意力层，并使用稀疏注意力。每个 MoE 层列有512个路由专家，其中选择10个，同时启用一个共享专家。 这些信息说明了模型的结构，但仅凭架构描述，不能据此断定它在所有实际服务场景中都更快或更省钱。

百度还称，训练过程中使用 Muon 优化器，并在数千张 GPU 上采用 FP8 混合精度。模型材料将 FlashMask-4 描述为面向大注意力头维度的注意力内核。6

对于该内核，百度报告称，在 SM100 上，相较于 FlashAttention-4 MaskMod，前向计算最高快175%，反向计算最高快74%。4 这是厂商报告的内核测试结果，不等于整个模型在真实推理服务中也能快175%。

基准测试：多项成绩领先，但并非全面胜出

百度公布的结果显示，ERNIE 在若干知识和编程评测中表现突出，包括与 DeepSeek-V4-Flash-Base 的比较。这些是发布方提供的基准成绩，并非独立复测结果。47

基准测试	ERNIE-5.5-Flash-Base	DeepSeek-V4-Flash-Base
MMLU-Pro	78.4	69.2
HumanEval+	82.3	69.5
LiveCodeBench	40.1	31.9
ChineseSimpleQA	73.0	75.3

在所列的 MMLU 五样本评测中，ERNIE 得分为93.3，高于 DeepSeek-V4-Flash-Base 的89.4、Hy3-preview 的87.5和 MiMo-V2.5 的87.6。4 但它并非各项都领先：公布的对比中，DeepSeek 在 ChineseSimpleQA 和 InfiniteBench 上得分更高。714

整体来看，ERNIE-5.5-Flash-Base 是一款总参数规模大、每个 token 稀疏激活、并有长上下文部署支持的基础模型。现有基准成绩在多个领域颇具看点，但实际价值仍需结合具体任务评估；部署前也应先确认许可条款。

部署支持与许可须知

SGLang 列明支持 FP8 和 BF16 两种检查点，并提供部署说明，包括 ECHO 推测解码。 Hugging Face 模型页面则注明，该模型采用定制的 ERNIE 5.5 Flash Base Model License Agreement v1.0；协议还提及可接受使用政策。因此，权重可以获取并不代表可以不受限制地使用，计划将模型用于产品前应仔细阅读许可条款。19

百度于2026年11月5日在 Hugging Face 发布 ERNIE-5.5-Flash-Base。这是一款可下载权重的纯文本混合专家（MoE）基础模型：总参数量为2800亿，每个 token 会激活其中140亿参数。百度称，模型从零开始使用33.5万亿 token 进行预训练。136

理解这组数字的关键是区分“总参数量”和“每 token 激活参数量”：2800亿代表模型的总规模，140亿则是处理单个 token 时启用的部分，并不意味着整个模型文件只有140亿参数。它发布的也是预训练阶段的基础检查点，而非已经调校成型的指令助手。6

发布的模型适合什么用途？

根据 SGLang 文档，ERNIE-5.5-Flash-Base 是预训练结束时的模型状态，尚未经过中期训练或后训练。它可作为领域适配、指令微调和强化学习研究的起点。 对希望继续训练、定制模型的团队来说，这提供了可用的基础；若要直接用于助手类应用，通常还需要进一步训练和适配。

模型的上下文长度按用途区分：训练阶段最长支持128K token，微调和推理阶段最长支持100万 token。SGLang 的部署文档也列出最长100万 token 的上下文支持。

Hugging Face 上提供 FP8 版本，另有 BF16 版本；SGLang 文档列明支持这两种权重格式。5 不过，这类模型体量庞大，参数量并不能单独说明部署所需的硬件和基础设施。

稀疏架构：总参数多，不代表每个 token 都要调用全部参数

MoE 模型会根据输入选择部分专家参与处理，而不是对每个 token 都启用全部参数。ERNIE 所称的2800亿总参数和140亿激活参数，反映的正是这种稀疏计算设计。6

SGLang 文档介绍，该模型采用37层高度压缩注意力层和6层全上下文多头潜在注意力层，并使用稀疏注意力。每个 MoE 层列有512个路由专家，其中选择10个，同时启用一个共享专家。 这些信息说明了模型的结构，但仅凭架构描述，不能据此断定它在所有实际服务场景中都更快或更省钱。

百度还称，训练过程中使用 Muon 优化器，并在数千张 GPU 上采用 FP8 混合精度。模型材料将 FlashMask-4 描述为面向大注意力头维度的注意力内核。6

对于该内核，百度报告称，在 SM100 上，相较于 FlashAttention-4 MaskMod，前向计算最高快175%，反向计算最高快74%。4 这是厂商报告的内核测试结果，不等于整个模型在真实推理服务中也能快175%。

基准测试：多项成绩领先，但并非全面胜出

百度公布的结果显示，ERNIE 在若干知识和编程评测中表现突出，包括与 DeepSeek-V4-Flash-Base 的比较。这些是发布方提供的基准成绩，并非独立复测结果。47

基准测试	ERNIE-5.5-Flash-Base	DeepSeek-V4-Flash-Base
MMLU-Pro	78.4	69.2
HumanEval+	82.3	69.5
LiveCodeBench	40.1	31.9
ChineseSimpleQA	73.0	75.3

在所列的 MMLU 五样本评测中，ERNIE 得分为93.3，高于 DeepSeek-V4-Flash-Base 的89.4、Hy3-preview 的87.5和 MiMo-V2.5 的87.6。4 但它并非各项都领先：公布的对比中，DeepSeek 在 ChineseSimpleQA 和 InfiniteBench 上得分更高。714

整体来看，ERNIE-5.5-Flash-Base 是一款总参数规模大、每个 token 稀疏激活、并有长上下文部署支持的基础模型。现有基准成绩在多个领域颇具看点，但实际价值仍需结合具体任务评估；部署前也应先确认许可条款。

部署支持与许可须知

SGLang 列明支持 FP8 和 BF16 两种检查点，并提供部署说明，包括 ECHO 推测解码。 Hugging Face 模型页面则注明，该模型采用定制的 ERNIE 5.5 Flash Base Model License Agreement v1.0；协议还提及可接受使用政策。因此，权重可以获取并不代表可以不受限制地使用，计划将模型用于产品前应仔细阅读许可条款。19