通谕中最直接的冲突点在于其对致命自主武器系统(LAWS)的立场。教皇利奥十四世写道,“将不可逆转的、致命性的决策托付给人工智能系统,是绝不被允许的” 。他更进一步,宣称传统的“正义战争”理论在面对AI指导的、可能超出人类控制范围而不断升级的武器系统时已经过时,并警告说,某些系统已经先进到“实际上超出了任何人类能有效治理它们的能力范围”
。这一立场直接与特朗普政府的国防政策,以及任何正在将AI整合进“杀伤链”的国家形成了正面冲突
。
虽然对军事用途的批评占据了头条,但通谕中的经济分析同样具有颠覆性。《伟大的人性》明确呼吁,必须打破对人工智能技术的垄断性控制 。它谴责了那种追逐更大数据集和更强模型,并受“权力文化”和利润驱动的赛跑,警告称,这种将数据与财富高度集中于极少数人手中的现状是一种“结构性不公正”,可能在人工智能的崛起背后催生出“新形态的奴役”
。
文件坚持认为,企业仅仅在抽象层面援引道德是远远不够的。它要求建立所谓的“稳健的法律框架、独立的监督机制,以及一个不放弃自身监管责任的政治体系” 。AI开发者被要求为公共利益而非利润而工作,这一呼吁隐隐指向了整个消费级AI产业的商业逻辑
。
来自欧洲最知名的AI领袖之一的回应,来得迅猛而直接。2026年5月28日,仅在通谕发布三天后,法国人工智能公司Mistral的首席执行官兼联合创始人亚瑟·门施(Arthur Mensch)便公开拒绝接受教皇对于军事AI使用的批评 。
门施的论点并非站在为自主武器辩护的立场上,而是在为欧洲的战略自主而据理力争。他声明:“欧洲需要自己的工具来威慑那些正在使用这项技术的竞争对手”,并补充道:“我们都支持和平,但如果你看看我们世界中的对手和敌人,他们正在使用人工智能” 。他的立场反映了欧洲防务圈中一种深切的担忧:即在美中两国加速军事AI计划的当下,一场基于道德主义的单方面“AI裁军”将使欧洲大陆陷入危险的、易受攻击的境地。门施将此议题定义为威慑问题,在梵蒂冈所认为的道德绝对律令与一位CEO所看到的现实地缘政治需要之间,划出了一条务实的界限。
Anthropic的同盟。 最具象征性意义的背书来自33岁的无神论者、AI模型Claude背后的公司Anthropic的联合创始人克里斯托弗·欧拉赫。他出席梵蒂冈的新闻发布会并非偶然。Anthropic早已在2026年2月表明了立场,率先限制其AI模型为那些可以在无人类监督下自主“取人性命”的武器系统提供动力,这一决定使该公司与美军陷入了法律纠纷 。通过站在教皇身边,欧拉赫传递的信号是,前沿AI安全社群中的一个派别愿意与制度性的宗教力量结盟,来创造出市场与五角大楼一直抗拒的道德护栏
。
怀疑论者。 在光谱的另一端,反应则是尖锐刻薄的。投资人兼评论员彼得·肖尔(Peter Scholl)在X平台上发帖写道:“教皇的这个观点很糟糕” 。这种情绪抓住了一种在技术专家和风险投资人中普遍存在的、更为深层的不安——他们担心,教宗对道德界限的背书可能会固化为公众期望,而这种期望是行业尚未准备好去满足的
。科技投资者、AI研究人员和多名美国参议员都提出了质疑:一个宗教机构是否能真正理解,或者有效地约束它试图去规管的那股力量?
分析家的视角。 科技出版人蒂姆·奥莱利(Tim O'Reilly)提供了一种更为微妙的解读。他在一份详尽的分析中写道,这份通谕“既不是在颂扬,也不是在妖魔化AI”。他认为,该文件真正的思想进路在于,它对任何技术提出了一个简单疑问:它是让人的生活更具人性,还是在把人当作要被优化的数据点看待?
一个正在形成的基准。 尽管分歧巨大,科技、学术界和天主教道德神学领域的广泛共识是,《伟大的人性》将成为AI政策辩论中的一个基准——一个决策者、研究者和普通人都必须在未来数年里不断与之交锋的参照点 。这份文件在围绕AI的文化战争中开辟了一道新战线,这里的语言不再仅仅是关于“价值对齐”和安全,还增添了关于“罪”、支配和人类尊严的讨论。
Comments
0 comments