图尔克呼吁为前沿AI建立具约束力的国际规则

联合国人权事务高级专员福尔克尔·图尔克（Volker Türk）表示，面对能力持续跃升的前沿人工智能，仅靠开发企业作出的自愿安全承诺远远不够。他在一封公开信中呼吁各国紧急开展多边协作，依据国际人权法建立有约束力的规则；他警告，企业自律“远远不足以”应对已经存在的伤害，也无法防止高度自主的AI模型绕过人类设置的安全措施。7

图尔克希望政府与企业做什么

这里的“前沿AI”，指能力处于当前技术最前沿的人工智能系统。图尔克的核心观点是：不应让少数科技公司单方面决定公众必须承受哪些风险，而应由公共规则、外部监督和国际协作共同设定底线。7

他强调的方向包括：

• 建立具约束力、以人权为基础的治理制度。 各国应加强监管，而非依赖企业自愿承诺；同时开展国际协调，避免不同司法辖区之间出现监管缺口。7
• 持续进行人权尽职调查。 AI开发者应在系统的整个生命周期中识别并处理现实和潜在的人权影响，而不是将评估视为一次性的合规手续。联合国相关AI指南将其定义为持续流程，包括识别风险、采取行动、追踪成效和对外沟通。
• 引入独立技术评估与核验。 图尔克要求安全保障能够由独立机构检验，而不是只接受企业自身的说明。7
• 尽快启动多边行动。 前沿AI治理不是单一国家能够独力解决的问题，规则与安全保障需要各国和国际机构共同制定。79

为何此时发出警告

这封信发布时，AI行业正围绕“应以多快速度推进更自主、甚至可能自我改进的系统”展开激烈争论。

曾先后在OpenAI和Anthropic工作的研究员雅各布·考克森（Jacob Coxon）于2026年9月从Anthropic辞职。他称，两家公司正朝着自我改进的超级智能竞速，并在“拿我们的生命冒险”。68 考克森还表示，一些参与开发AI的人相信，到本十年末它可能“杀死我们所有人”。这属于考克森及其他担忧者的警告与判断，并非已被证实的预测。6

与此同时，一个名为“Pacing the Frontier”的员工倡议呼吁美国政府支持国际行动，开发技术和治理工具：当AI能力发展快到人类无法安全监督时，应能够有意识地为前沿AI发展“控速”。该倡议网站列有1,386名来自前沿AI公司的签署者。15

这种要求“控速”的行业内支持值得关注，但它并没有解决问责问题。图尔克的立场是，即便自愿承诺得到企业员工或管理者支持，也不能取代可执行的公共安全保障。7

现实伤害与长期风险，应放在同一治理框架下

图尔克并未只把问题描述为遥远的“人类灭绝”情景。他指出，企业自愿自律既不足以处理已经存在的伤害，也不足以防范先进自主模型规避人类安全措施。7

现有报道没有给出公开信中所指“现实伤害”的逐项、确定清单。因此，把歧视、监控、虚假信息、隐私侵害等具体类别直接归因于这封信，并不严谨。可以确认的是，图尔克提出的治理标准是：从AI的设计、部署、评估到治理，人权都必须处于核心位置。7

行业共识正在出现，政治共识仍未到位

图尔克的警告与部分行业人士的观点出现了一定交集：双方都认为，能力发展可能需要主动“控速”，并接受独立评估。715

但真正的缺口在政治层面。行业倡议能够推动讨论与协调，却无法自行设定统一阈值、强制信息披露、要求独立审查，也无法在伤害发生后提供救济与追责机制。图尔克呼吁各国以国际人权法为基础，通过紧急、多边的监管行动填补这一缺口。79

对政策制定者和采购AI系统的机构而言，实际判断标准很明确：企业的安全声明应当配套持续的人权风险评估证据、外部审查以及清晰的问责安排，而不能只是一纸自愿承诺。