Naive-N0.5-Flash：3090亿参数模型，如何兼顾百万上下文与推理速度？

Naive-N0.5-Flash是NaiveAI推出的一款开放权重模型，面向编程和人工智能研发。它的主要看点包括：总参数量3090亿的混合专家（MoE）架构、每个token激活155亿参数、宣称原生支持100万token上下文，以及配套的推理系统NaiveRT。24

先厘清一个容易混淆的数字：155亿是每个token推理时激活的参数量，不是模型的总参数量。NaiveAI公布的资料称，模型权重和推理代码采用MIT许可证。47

3090亿总参数，不等于每次都全部参与计算

混合专家模型会按输入内容选择部分参数参与处理。Naive-N0.5-Flash的总参数量为3090亿，每个token激活155亿；后一个数字描述的是稀疏计算时实际启用的参数规模。2

NaiveAI将模型定位于编程和AI研发场景。它并非完全从零开始训练，而是以小米的MiMo-V2.5为基础继续训练。12

百万token上下文，采用混合注意力设计

NaiveAI称，模型通过滑动窗口注意力（SWA）与轻量级DeepSeek稀疏注意力（DSA）的组合，原生支持100万token上下文，同时不使用全注意力层。模型资料将这一配置描述为以约5:1比例为主的SWA与DSA布局。27

简单来说，SWA侧重处理局部范围的信息，DSA则以稀疏方式连接更远距离的上下文。这种设计旨在支持长上下文处理，而不依赖全注意力层。不过，支持百万token上下文这一规格，本身并不能证明所有长文本任务都能同样有效。

NaiveRT公布的速度该怎么理解？

NaiveRT是随模型发布的推理系统。NaiveAI列出的技术包括大型内核融合、程序化依赖启动（Programmatic Dependent Launch，PDL）和投机解码。公司公布的数据为：标准模式下每位用户每秒50个token，极速模式下最高每秒2000个token。2

这些属于厂商公布的推理速度，不应视为所有硬件、部署方式和任务中的实际保证。标准模式的“每位用户”数据与极速模式的“最高速度”并非同一种口径，不能直接当作同一场景下的预期输出速度。2

值得关注的规格，也需要与实际表现区分

Naive-N0.5-Flash的发布重点，是把开放权重与MIT许可、3090亿参数的MoE架构、百万token上下文设计和专用推理系统结合起来。247 对开发者和研究人员而言，这些规格提供了评估模型的起点；具体任务中的代码质量、长上下文表现和部署速度，仍需结合实际测试判断。现有发布资料提供的是模型方公布的能力与速度信息，不能单独证明它在某一特定工作流程中的效果。