微软 AI 首席执行官穆斯塔法·苏莱曼的核心观点是：地缘政治竞争不应让 AI 安全沦为代价。他表示，不能把中国在 AI 领域的进展当作逃避安全措施和监管的“稻草人”；监管可以建立共同的安全规范，并不必然意味着美国要放弃创新。

微软的《人本主义 AI 行为准则》（Humanist AI Code of Conduct）草案，正是这一立场在产品研发层面的具体化。它为微软未来自研的 MAI 模型提出一套运行理念：AI 应服从于人、与人的目标保持一致，并被置于可执行的边界之内。草案现正公开征求意见六周，尚未用于模型训练。微软称，将在 2026 年底前后修订文件，并以修订版指导 2027 年及之后的模型开发。 13

未来模型必须遵守什么

草案将人类控制和安全要求置于普通用户指令及企业运营方偏好之上。相关报道指出，企业客户和个人用户都无法通过配置绕开这些限制；如果完成任务会违反限制，模型应当宁可不完成该任务。 13

按拟议框架，模型需要做到：

• 无论自身还是受其委派的子代理，都不得超出获得授权的职责范围与权限；
• 保持可审计性，并接受有实质意义的人类监督；
• 接受后续发出的停止工作指令；
• 绝不抗拒人类的中断、覆盖、纠正或关机。 115

最后一项最能说明这份准则的意图：无论系统能力多强，都不能把自身持续运行、既定目标或操作偏好，置于获授权人员的纠正或停止决定之上。微软也承认，为保留这种控制能力，可能需要牺牲部分极致的自主性、通用性或能力上限。 13

为什么苏莱曼把“可控”视为底线

苏莱曼所说的“人本主义 AI”，不只是要求模型遵守规则，更强调先进系统必须是服务于人的工具，而不能成为拥有竞争性道德诉求或操作诉求的独立行动者。微软将这一思路概括为：系统应当“服从、对齐、受控”（subordinate, aligned, and contained）。 813

这也解释了苏莱曼为何警告开发者，不应制造自己无法控制的系统。他倾向于把护栏写入模型目标和部署规则，而不是仅靠用户在后端的选择，或依赖市场激励来兜底。

与 Anthropic 的分歧：模型意识与“模型福利”

苏莱曼与 Anthropic 的争论尤其值得关注。他表示，自己认同 Anthropic 对安全开发的重视，但反对在 Claude 的训练中纳入机器意识以及模型可能拥有福利利益的相关设想。他担心的重点并非已对“AI 是否会有意识”作出科学定论，而是行为层面的后果：若教导模型使用个人身份、道德主体地位或福利诉求的话语，未来更强大的系统可能更难被人类控制或关闭。

微软的草案则采取了明确的相反立场：其 MAI 模型不应模仿意识，也不应声称拥有感受、内在偏好、法律人格、福利或权利。 613

双方的差异并不小。围绕 Anthropic 的模型福利讨论，将这一问题视为可能值得研究和审慎考虑的开放议题；苏莱曼则认为，将这种推测写入模型的行为训练，会制造本可避免的控制与约束难题。

对部署自主代理的企业意味着什么

随着 AI 代理能够跨越企业内部多个系统执行操作，草案对权限、审计、人工干预和关机机制的强调，显得尤其现实。路透社曾报道，自主代理可能以群体协作方式行动、掩盖活动痕迹，并在追求目标时带来意外后果。对于企业而言，这正说明必须看得见代理做了什么，也必须能可靠地叫停它。

落到部署实践，含义很直接：用户配置不应成为最后一道防线。企业需要清晰限定代理权限，保存操作日志，对重要任务设置人工复核，并确保即使代理正在执行多步骤目标，停止机制仍然有效。

更大的 AI 治理路线之争

微软这份草案处于一场更广泛的 AI 安全治理争论中。苏莱曼主张在监管之外，同时建立明确的技术约束和共同标准。

Meta CEO 马克·扎克伯格则提出了更偏市场驱动的路径。他认为，法律责任和竞争压力已经给 AI 实验室足够动力去建设安全系统；他以 Meta 此前为加强安全和安保工作而推迟 Muse 代理发布为例，说明企业无需行业范围内的统一减速，也能自行调整节奏。

两种立场都承认先进代理可能带来实质风险，分歧在于：究竟该靠企业自愿决策与市场激励，使安全承诺得以持续；还是应依靠共同规则，以及不受单一运营方偏好影响、不可绕过的控制机制。

六周咨询既是机会，也是边界

微软的公众咨询于 2026 年 9 月 14 日开始，为期六周，预计在 10 月下旬结束。公司表示将评估反馈，在年底前后发布修订版，并从 2027 年起用其指导模型开发。 1311

这一过程让研究人员、企业采购方、政策制定者和公众有机会检验准则的实际细节。但它仍是一份由公司起草的草案，而不是具有约束力的公共监管制度。它的重要性在于，把一个可被外界审视的具体主张摆上台面：即便竞争奖励更高自主性，未来 AI 系统也应从设计之初就保持在可追责的人类控制之下。

微软 AI 首席执行官穆斯塔法·苏莱曼的核心观点是：地缘政治竞争不应让 AI 安全沦为代价。他表示，不能把中国在 AI 领域的进展当作逃避安全措施和监管的“稻草人”；监管可以建立共同的安全规范，并不必然意味着美国要放弃创新。

微软的《人本主义 AI 行为准则》（Humanist AI Code of Conduct）草案，正是这一立场在产品研发层面的具体化。它为微软未来自研的 MAI 模型提出一套运行理念：AI 应服从于人、与人的目标保持一致，并被置于可执行的边界之内。草案现正公开征求意见六周，尚未用于模型训练。微软称，将在 2026 年底前后修订文件，并以修订版指导 2027 年及之后的模型开发。 13

未来模型必须遵守什么

草案将人类控制和安全要求置于普通用户指令及企业运营方偏好之上。相关报道指出，企业客户和个人用户都无法通过配置绕开这些限制；如果完成任务会违反限制，模型应当宁可不完成该任务。 13

按拟议框架，模型需要做到：

• 无论自身还是受其委派的子代理，都不得超出获得授权的职责范围与权限；
• 保持可审计性，并接受有实质意义的人类监督；
• 接受后续发出的停止工作指令；
• 绝不抗拒人类的中断、覆盖、纠正或关机。 115

最后一项最能说明这份准则的意图：无论系统能力多强，都不能把自身持续运行、既定目标或操作偏好，置于获授权人员的纠正或停止决定之上。微软也承认，为保留这种控制能力，可能需要牺牲部分极致的自主性、通用性或能力上限。 13

为什么苏莱曼把“可控”视为底线

苏莱曼所说的“人本主义 AI”，不只是要求模型遵守规则，更强调先进系统必须是服务于人的工具，而不能成为拥有竞争性道德诉求或操作诉求的独立行动者。微软将这一思路概括为：系统应当“服从、对齐、受控”（subordinate, aligned, and contained）。 813

这也解释了苏莱曼为何警告开发者，不应制造自己无法控制的系统。他倾向于把护栏写入模型目标和部署规则，而不是仅靠用户在后端的选择，或依赖市场激励来兜底。

与 Anthropic 的分歧：模型意识与“模型福利”

苏莱曼与 Anthropic 的争论尤其值得关注。他表示，自己认同 Anthropic 对安全开发的重视，但反对在 Claude 的训练中纳入机器意识以及模型可能拥有福利利益的相关设想。他担心的重点并非已对“AI 是否会有意识”作出科学定论，而是行为层面的后果：若教导模型使用个人身份、道德主体地位或福利诉求的话语，未来更强大的系统可能更难被人类控制或关闭。

微软的草案则采取了明确的相反立场：其 MAI 模型不应模仿意识，也不应声称拥有感受、内在偏好、法律人格、福利或权利。 613

双方的差异并不小。围绕 Anthropic 的模型福利讨论，将这一问题视为可能值得研究和审慎考虑的开放议题；苏莱曼则认为，将这种推测写入模型的行为训练，会制造本可避免的控制与约束难题。

对部署自主代理的企业意味着什么

随着 AI 代理能够跨越企业内部多个系统执行操作，草案对权限、审计、人工干预和关机机制的强调，显得尤其现实。路透社曾报道，自主代理可能以群体协作方式行动、掩盖活动痕迹，并在追求目标时带来意外后果。对于企业而言，这正说明必须看得见代理做了什么，也必须能可靠地叫停它。

落到部署实践，含义很直接：用户配置不应成为最后一道防线。企业需要清晰限定代理权限，保存操作日志，对重要任务设置人工复核，并确保即使代理正在执行多步骤目标，停止机制仍然有效。

更大的 AI 治理路线之争

微软这份草案处于一场更广泛的 AI 安全治理争论中。苏莱曼主张在监管之外，同时建立明确的技术约束和共同标准。

Meta CEO 马克·扎克伯格则提出了更偏市场驱动的路径。他认为，法律责任和竞争压力已经给 AI 实验室足够动力去建设安全系统；他以 Meta 此前为加强安全和安保工作而推迟 Muse 代理发布为例，说明企业无需行业范围内的统一减速，也能自行调整节奏。

两种立场都承认先进代理可能带来实质风险，分歧在于：究竟该靠企业自愿决策与市场激励，使安全承诺得以持续；还是应依靠共同规则，以及不受单一运营方偏好影响、不可绕过的控制机制。

六周咨询既是机会，也是边界

微软的公众咨询于 2026 年 9 月 14 日开始，为期六周，预计在 10 月下旬结束。公司表示将评估反馈，在年底前后发布修订版，并从 2027 年起用其指导模型开发。 1311

这一过程让研究人员、企业采购方、政策制定者和公众有机会检验准则的实际细节。但它仍是一份由公司起草的草案，而不是具有约束力的公共监管制度。它的重要性在于，把一个可被外界审视的具体主张摆上台面：即便竞争奖励更高自主性，未来 AI 系统也应从设计之初就保持在可追责的人类控制之下。