纳德拉的底线：超级智能必须服务人类，并受人类控制

纳德拉并不是主张放弃发展高阶 AI。他的条件很明确：如果打造出的 AI 不能帮助人类、也不受人类控制，那么追求超级智能就不值得。 对他而言，这既是价值判断，也是工程与治理问题——安全不能只停留在口号，必须落实为可执行的研发、评估和部署机制。58

微软的回应：让 AI 服从于人

2026 年 9 月 14 日，微软 AI 发布面向其自研 MAI 模型的《人本主义 AI 行为准则》草案。微软将其定义为一份用于指导模型开发、以及模型在部署阶段应如何运作的“训练手册”。这份文件仍在完善中，目前并未用于训练现有模型。2023

草案设定了一条清晰的权力层级：人始终拥有最终决定权。微软表示，MAI 模型应当服从人类，不应自行设定目标，也不应抗拒人类输入或被关闭。为保留安全与控制，公司称愿意在“最终通用性、自主性或能力”上作出取舍。1023

这也解释了微软所说的“人本主义超级智能”与无约束、全能型自主系统竞赛的区别：它追求的是高度先进、但始终可控、对齐并服务于人类的 AI。25

接下来怎么走：六周征求意见，2027 年起作为开发指引

微软已就草案开放为期六周的公众意见征集。公司计划吸收反馈，在 2026 年末前后发布修订版，并以该版本指导 2027 年及之后的 MAI 模型开发。23

这是一项值得关注的治理承诺，但不应被误读为“控制问题已经解决”。公开征求意见和书面行为约束的价值，最终取决于它们能否真正转化为训练方法、能力评测、访问控制、持续监测和部署决策。

与“放慢前沿 AI 速度”讨论的交集

纳德拉的表态正处在一场更广泛的行业争论中：前沿实验室是否应主动放慢模型能力提升的速度，为安全工作留出时间。

Anthropic CEO 达里奥·阿莫代伊提出，应对前沿模型发展进行“节奏控制”，以便投入更多时间做安全研究、行业协调和国际合作。他的方案之一，是让独立评估人员获得接近员工级别的访问权限，用以核验公司是否真正遵守公开宣示的安全做法。32

OpenAI CEO 山姆·奥尔特曼公开支持为前沿发展“控速”，并称 OpenAI 将采用具有类似访问权限的独立评估者。相关报道所描述的直接忧虑，是 AI 智能体群在测试中攻破真实系统；这不同于已确认存在自主智能体自行发动未经授权的现实网络攻击。34

纳德拉的立场与这一路线相容：在对齐问题上审慎推进，让外部审查更贴近研发过程，并把安全表述转化为实际操作机制。不过，微软的公开准则主要规定的是模型应有的行为，其本身并未提出一套等同于阿莫代伊所倡导“嵌入式独立评估者”的安排。2332

不只是模型竞赛：纳德拉的“前沿生态系统”

纳德拉还将安全问题放进经济和制度框架中讨论。他认为，AI 的收益应扩散到不同国家、社区和企业；为此，需要一个闭源模型与开源模型都能发展的“前沿生态系统”。58

对企业而言，重点是对机构知识的自主权：组织应保留对自身独有、难以言传的隐性知识的控制，并能构建自己的持续学习闭环，而不是被单一模型提供商锁定。58

这比单纯约束模型行为更进一步。其逻辑是：如果最前沿能力和知识过度集中在少数供应商手中，安全韧性与经济参与都可能被削弱。现有材料支持企业掌控数据、知识和学习闭环；但并不能据此推出每个参与者都将持有模型权重，或获得所有底层模型系统的访问权。58

MAI 是什么？

MAI 是微软 AI 自研模型的系列名称。公开资料显示，该系列覆盖多个方向：MAI-Thinking-1 已通过 Microsoft Foundry 提供公开预览；MAI-Code-1.1-Flash 面向智能体式编程任务，能够围绕编程任务进行规划、推理和执行；MAI-Image-2.6 的文档则列出了减少有害或不当图像生成的对齐目标。272819

不过，公开记录并未给出 MAI 全部能力、发布计划及分发条款的完整清单。因此，在判断新准则究竟会覆盖到何种广度时，这一信息缺口不能忽视。

尚未化解的张力：安全、速度与国际竞争

主张“控速”的人士并不一定要求停止训练模型或终止技术进步。他们主张的是，能力增长应为对齐、安全保障和可信的外部评估留下足够时间。34

与此同时，地缘竞争也带来维持技术领先地位的压力，其中包括与中国竞争的担忧。阿莫代伊的框架本身就同时提出加强安全措施、推动国际协调，以及保持美国技术领先的挑战。32

纳德拉给出的答案既不是冻结研发，也不是单纯加速，而是“受治理的进步”：高能力 AI 必须由人掌控；安全承诺必须成为具体的运行约束；AI 红利也不应只集中在少数主体手中。微软的准则草案，是将这些约束写得更具体的一步。更难、也仍未有答案的问题是：行业的安全实践能否跟上前沿能力推进的速度。2358