Anthropic 与教皇方济各十四世罕见联手：为何需紧急按下 AI 前沿发展的“暂停键”？

Anthropic 的警告：递归自我改进的风险

Anthropic 的研究员玛丽娜·法瓦罗（Marina Favaro）和杰克·克拉克（Jack Clark）在这份报告中描绘了一幅关于 AI 能力如何加速发展的严峻图景。该实验室报告称，截至 2026 年 5 月，Claude 已编写了 Anthropic 代码库中 80% 以上合并的代码，一名普通工程师每天合并的代码量大约是 2024 年的 8 倍 。作者们警告，这一轨迹正指向递归自我改进——AI 系统在没有人类主导每一步的情况下，自主设计、构建和训练其继任者的过程 。

Anthropic 表示尚未达到那一步，且结果并非不可避免，但随后补充了一个令人警醒的注脚：“它可能会比大多数机构做好准备的时间来得更早” 。

核心担忧

• 丧失人类监督。 Anthropic 的核心担忧是，AI 进步的速度可能会超过现有安全和治理框架的应对能力，使得人类监督成为技术进步的“瓶颈” 。该公司警告，如果任其无序发展，人类可能完全失去控制权 。
• 为行业安装“刹车踏板”。 Anthropic 将自己呼吁的暂停比作为行业安装“刹车踏板”——一个减速或暂时停止前沿 AI 发展的选项，以让社会结构和 AI 对齐研究（alignment research）能够跟上步伐 。克拉克在接受 BBC《新闻之夜》采访时表示：“你要有能力让脚离开油门，然后踩下刹车” 。
• 有条件的、非单方面的暂停。 Anthropic 表示，只有在其他领先开发商共同参与且合规性能够得到独立验证的情况下，它才会支持暂停 。该公司指出，如果减速仅仅是让不那么谨慎的参与者赶上，最终可能会危及所有人的安全 。
• 与政策制定者接洽。 同时，Anthropic 宣布计划召集政策制定者，共同应对高级 AI 带来的危险 。

梵蒂冈的《崇高人性》：AI 的道德框架

于 2026 年 5 月 25 日发布的《崇高人性》篇幅约 43,000 字，其核心是“在人工智能时代保护人的尊严” 。该文件明确更新了利奥十三世 1891 年关于工业时代劳工问题的通谕《新事物》（Rerum Novarum），并将其逻辑应用于数字平台、算法、自动化和数据集中 。

与 Anthropic 警告的关键契合点

• 呼吁强有力监管。 教皇敦促对 AI 进行严格监管，并警告大型科技公司及其领导者可能会积累权力并滥用以牟利 。教皇方济各认为，AI 的供应者必须考虑其行为的道德性，他宣称：“为了让 AI 尊重人的尊严并真正服务于共同利益，它需要强有力的监管” 。
• 警告不受控制的自主性。 该通谕告诫 AI 公司不要建造“新的巴别塔”（Tower of Babel）——这与 Anthropic 对系统脱离人类控制的担忧形成了道德层面的呼应 。该文件将把上帝排除在外的 AI 未来比作圣经故事，警告人类的傲慢 。
• 以人的尊严为标准。 《崇高人性》认为，AI 必须服务于共同利益和人类繁荣，而不应仅仅由竞争性的加速发展驱动 。通谕的核心句子写道：“人工智能现在必须被‘解除武装’，从那些将其转变为控制、排斥和毁灭工具框架中解放出来” 。
• 呼吁放慢脚步。 教皇方济各写道，呼吁审慎、严格评估，甚至有时在采用 AI 时放慢速度，并不意味着反对进步；相反，这是“对人类家庭负责任关怀的实践” 。

Anthropic 与梵蒂冈的直接合作

两个机构之间的契合不仅仅是平行警告。在一场罕见的机构间合作展示中，Anthropic 联合创始人克里斯·奥拉（Chris Olah）于 2026 年 5 月 25 日在梵蒂冈出席了《崇高人性》的发布会，凸显了 AI 实验室与圣座之间的独特关系 。他的出席标志着一个罕见的联盟，双方共同呼吁对人工智能进行更强的道德审视 。

双方之间的联系早已存在。Anthropic 此前在制定“Claude 宪法”（一个指导其 AI 模型的 23,000 字道德框架）时，曾咨询过天主教思想家 。曾为硅谷高管的牧师 Brendan McGuire 神父帮助制定了这部宪法，并指出《崇高人性》为教会与科技行业之间更深入的对话打开了大门 。

在通谕发布后不到两周，天主教 AI 专家公开赞扬 Anthropic 的暂停呼吁，指出这“回应了教皇方济各十四世最近的担忧”，并赞扬该公司在快速发展中审视价值观 。此前，天主教道德神学家也曾提交“法庭之友”书状，支持 Anthropic 在一场五角大楼争端中的立场，即拒绝让其 AI 系统用于大规模监控或自主武器 。

共同的论调与互补的优势

Anthropic 和梵蒂冈都汇聚在一个核心论点上：前沿 AI 的发展速度快于治理和伦理的适应能力，需要有意识地暂停或减速，以维护人类的监督、尊严和共同利益。教会的贡献在于提供了一个坚实的道德和神学框架——植根于人的尊严、共同利益和对弱者的保护——这恰好补充了 Anthropic 的技术与安全导向推理 。

正如一位观察者所言，两个机构都认为“社会可能难以跟上快速的技术进步”，而减速“很可能是一件好事”——前提是这种减速是协调的、可验证的，并且不沦为让更不谨慎的竞争者趁机追赶的工具 。