上海人工智能公司 StartLux 的本地模型 StartLux-V1.0-27B-Preview,正在为“小模型也能做好智能体工作”提供一个颇具代表性的案例。
在中国信息通信研究院(中国信通院)人工智能研究所组织的可信 AI 大模型基准测试——MCP 专项测试中,这款拥有 270 亿参数的模型以 39.25 分取得综合排名第二,仅落后拥有 1.6 万亿参数的 DeepSeek-V4-Pro 1.30 分。
10
3
这并不意味着 27B 模型已经全面超越万亿参数模型。更准确的解读是:当测试重点放在工具调用、多步规划和真实环境中的任务执行时,经过针对性优化的小模型,能够在特定工作负载上逼近规模大得多的模型。
MCP 专项测试测的是什么
MCP 是 Model Context Protocol(模型上下文协议)的缩写,通常用于连接模型与外部工具、数据源及应用。与只考察知识问答或单轮推理的模型排行榜不同,MCP 测试更接近智能体在现实工作中的表现:模型能否理解目标、规划步骤、调用正确工具,并最终完成任务。
此次专项测试覆盖六类任务:
- 位置导航
- 网页搜索
- 浏览器自动化
- 金融分析
- 代码仓库管理
- 3D 设计
加上综合评估后,共形成七项检验项目。测试重点考察多工具协同、复杂任务执行以及与真实环境交互的能力;相关报告显示,最终平均成绩取三轮完整测试的结果。
10
7
对于准备采购 AI 智能体的企业来说,这类测试具有现实意义。一个模型即使在孤立的知识题或推理题上表现出色,如果无法稳定调用工具、处理异常并完成流程,也未必适合直接投入业务。
StartLux 的成绩为何引人注目
公开信息显示,StartLux 的综合表现超过了多款参数规模大得多的模型:
- StartLux-V1.0-27B-Preview:270 亿参数,综合得分 39.25
- DeepSeek-V4-Pro:1.6 万亿参数,排名第一;领先 StartLux 1.30 分
- DeepSeek-V4-Flash-0731:2840 亿参数,得分 38.24,排名落后于 StartLux
- Step-3.7-Flash:1980 亿参数,排名低于 StartLux
在同等参数规模的对比中,StartLux 据报道比 Qwen-3.6-27B 高出 5.34 分。参测模型名单还包括 AgentCPM-Explore,但现有资料没有提供所有对比模型的可靠综合得分,因此不宜据此排列完整名次。
2
3
10
分项成绩同样体现出它在实用型智能体任务上的优势:StartLux 在位置导航中排名第一;在浏览器自动化和金融分析中,据报道与 DeepSeek-V4-Pro 并列第一或处于领先位置。
4
6
7
这不是“参数量已经不重要了”
这场测评真正说明的,并不是参数规模从此失去意义。大模型依然可能在更广泛的能力、复杂任务和前沿推理方面拥有更大优势,也能为后续能力提升提供更高上限。
StartLux 的案例说明的是另一件事:在一个奖励稳定执行的测试中,后训练、工具使用优化和任务场景适配,可能产生非常显著的效果。对于智能体而言,模型不仅要“知道答案”,还要能够:
- 把用户目标拆分成多个步骤;
- 选择并调用合适的工具;
- 根据工具返回结果继续规划;
- 发现错误后恢复执行;
- 最终交付可验证的结果。
StartLux 将其表现归因于本地智能体模型定位,以及“AI 训练 AI”的 Auto Research 方法。不过,这些是公司的解释,基准测试本身只能证明最终表现,不能单独证明究竟是哪一种训练方法造成了结果。较为稳妥的结论是:针对工具调用、规划和工作流完成度进行优化,确实可能让小模型在部分企业任务上显著缩小与超大模型的差距。
本地部署的吸引力与代价
相较于 1.6T 参数模型,27B 模型在经过量化并配备合适硬件后,更有可能部署在企业私有基础设施、工作站或部分高配置本地设备上。这为高频、重复性较强的智能体任务带来几项潜在优势:
- 数据可控:敏感提示词、业务资料和工具返回结果可以留在企业内部,减少发送至外部 API 的需求。
- 成本可控:大规模推理有机会降低持续的按请求 API 费用,但硬件、电力、运维和工程投入仍必须计入总拥有成本。
- 延迟与可用性:本地部署可以减少对网络连接和云服务商容量的依赖。
- 便于定制:企业可以围绕具体流程调整工具、权限策略和评测体系。
这些是部署可能性,并非自动兑现的保证。本地 AI 也意味着客户需要自行负责硬件采购、模型更新、访问控制、审计日志、监控和安全防护。模型更小,通常更容易运行,但不一定更容易治理。
30B 级本地智能体模型正在增多
StartLux 并非孤例。行业正在出现一批将效率、吞吐和本地运行放在核心位置的模型。
NVIDIA 将 Nemotron 3.5 Lightning 描述为一款开放的 300 亿参数混合专家模型,单次推理时激活参数约 30 亿,面向长时间运行和高频执行的智能体。NVIDIA 的模型支持记录还列出了 Gemma 4 的 12B 和 31B 版本。
25
26
模型目录和二手资料也将 Meta 的 Muse Glimmer 放在本地智能体类别中,但目前掌握的证据无法独立核实 Meta 最初发布时的完整官方文档,因此这一点应谨慎看待。
27
33
不必夸大任何一个单独模型,整体趋势已经相当清晰:开发者正在同时优化激活参数量、推理吞吐、量化效果、工具调用可靠性和本地部署能力。竞争的核心,正从“模型有多大”逐渐扩展到“模型能否以合理成本持续完成工作”。
中国企业采购 AI,下一步应看什么
StartLux 的成绩可能推动企业采用更分层的模型采购策略:
- 敏感、高频、流程固定的任务:优先考虑本地部署或私有化部署的紧凑型模型。
- 范围广、频率低或难度极高的任务:在最大能力更重要时,使用前沿云端模型。
- 评测完整业务流程:不要只测试问答分数,还应考察工具调用准确率、错误恢复能力、任务完成率、中文及行业表现、延迟和运营成本。
- 先评估治理能力再上线:重点检查权限、数据留存、可观测性、模型更新机制和人工升级流程。
这会把企业的核心问题,从“哪个模型参数最多”,改成一个更有价值的问题:
哪个模型能够以可接受的成本和风险,稳定完成这项具体工作?
参数竞赛,正在变成工作流竞赛
StartLux-V1.0-27B-Preview 并没有终结大小模型之间的竞争,也没有证明万亿参数模型不再值得投入。它更像是一次提醒:对于重视隐私、成本可预测性、响应速度和私有部署的企业,一个能够可靠完成实际流程的紧凑型模型,可能比规模最大的模型更适合作为采购对象。
未来的企业 AI 选型或许不会再追求一个包打天下的“唯一冠军”,而是根据任务性质匹配模型规模和部署方式。放在这个背景下,StartLux 的 39.25 分之所以重要,不是因为它让参数量变得无关紧要,而是因为它展示了:相当一部分智能体能力,可以被集中到一个足够小、足以考虑本地运行的模型中。