教皇良十四世警告人工智能：机器必须始终受人类控制

教皇良十四世近期关于人工智能的讲话，并不是对技术本身的否定，而是在追问一个更根本的问题：谁在控制人工智能？当人类把责任交给机器后，又会发生什么？

在8月21日对国际天主教立法者网络的讲话，以及8月28日对国际行政科学学会的讲话中，他强调，人工智能应当成为服务共同福祉的工具，接受人类智慧、良知和法律的引导，而不能被速度、利润或不透明的系统牵着走。

这两次讲话延续了其通谕《Magnifica Humanitas》的核心原则：衡量技术进步的标准，不只是效率和算力，而是它是否维护人的尊严、正义、和平以及真正的人类自主性。16

对公共管理者：人类不能成为自己发明的受害者

在会见国际行政科学学会成员时，良十四世警告，人工智能的快速发展可能让人类“成为自己发明的受害者”。他尤其反对把涉及人类生命的决定交给机器。

他的解决方案不是放弃数字技术，而是让技术更具人性。他敦促公共行政研究者寻找具体方法，使数字系统服务于生命与和平，并确保公共决策始终以人为中心，而不是以自动化流程为中心。

这意味着自动化必须有明确边界：人工智能可以协助行政工作，却不应抹去当决定影响个人权利、福祉或尊严时所必需的人类判断、责任与道德问责。

对立法者：人工智能权力正在集中

在8月21日对国际天主教立法者网络的讲话中，良十四世把重点放在立法者的政治责任上。梵蒂冈将此次会议主题概括为“人的尊严与人工智能：挑战、机遇与控制”，并将人工智能治理称为这个时代的关键问题之一。

他担心的并不只是人工智能系统可能出错，更是先进技术及其使用权可能集中在少数大型经济和科技参与者手中。良十四世警告，这种集中可能使较贫困国家越来越依赖富裕国家，并进一步扩大已有的不平等。

他还提醒，创新可能成为“意识形态或经济殖民主义”的工具。这使人工智能治理不再只是单个国家的监管议题，也成为涉及国际关系与全球公平的问题。

算法可能制造一种隐蔽的支配

良十四世指出，算法和数字平台能够在不公开行使统治权的情况下影响社会。他提到，算法可能决定谁能被看见、谁会被隐形；数字平台可能在缺乏充分问责的情况下塑造公共讨论；自动化系统也可能为了追求优化而牺牲劳动者的尊严。

这已经超出了单纯的技术偏见问题。真正的问题是：谁制定了可见性、参与机会和社会资源分配的规则？受到影响的人是否有实际渠道质疑这些决定？

当私人系统在缺乏透明度的情况下影响公共舆论或就业机会，社会权力就可能从民主机构和公众监督手中转移到不透明的系统之中。

为什么他特别强调家庭

良十四世称家庭是“人性的第一所学校”，并敦促立法者防止人工智能削弱家庭的作用。

在他的论述中，人的成长始于各种关系：人们在关系中学习信任、责任、慷慨、对话以及关怀他人。这些品质不能简单等同于人工智能的运行速度或计算能力。

《Magnifica Humanitas》也提醒人们，不应把机器的表现误认为人类智慧。人工智能系统可以模仿某些智能功能，也能在速度和计算能力上超过人类，但它们并不拥有人的经历和身体经验。16

因此，对良十四世而言，保护家庭也是人工智能政策的一部分。问题不只是某个系统是否高效，还在于它的使用是否支持那些帮助人们学习自由、责任与团结的关系和制度。

他呼吁建立哪些保障措施

良十四世的主张可以归纳为一套以人为本的人工智能治理框架：

• 保护基本权利与自由。 立法应确保技术进步不能以牺牲人的尊严为代价。
• 保护个人隐私。 用户应免受剥削，并受到不当使用个人信息的保护。
• 要求透明。 个人和机构需要了解新兴技术如何被使用，以及重大决定是如何作出的。
• 加强民主制度。 数字系统应强化负责任的公共治理，而不是绕过公共问责机制。
• 让责任留在人类手中。 涉及人的生命和尊严的决定，不应在缺乏实际人类控制的情况下交给机器。
• 防止支配与权力过度集中。 治理机制必须应对先进人工智能被少数强大参与者控制所带来的风险。

这些措施呼应了通谕的更广泛论点：技术并非在社会意义上“中立”。它既可能促进参与和正义，也可能加剧不平等、控制与排斥。

两次讲话如何延伸《Magnifica Humanitas》

《Magnifica Humanitas》于2026年5月发表，主题正是人工智能时代对人的保护。通谕提出的核心检验标准是：技术是否仍然以人类为方向，还是已经变成支配、排斥乃至战争的工具。通谕呼吁为人工智能“解除武装”，摆脱这些破坏性的逻辑。51016

8月的两次讲话，则把这一原则转化为不同群体的具体责任：公共管理者要确保数字系统服务公民并保留人的判断；立法者要制定保护权利、隐私、透明度和民主生活的规则；研究者则应寻找让数字技术服务生命与和平的实际路径。

总体而言，良十四世发出的是一种预防性的警告。他希望各社会在人工智能仍处于持续开发和部署阶段时，就建立以人为本、可执行的规则，而不是等到不透明的平台、集中的权力和自动化决策已经根深蒂固后，才试图加以挑战。

他的标准很明确：人工智能应当扩大共同福祉，但不能取代那些有责任界定并捍卫共同福祉的人类。