教皇利奥十四世谈人工智能风险：守护人的声音、面孔与尊严

在社交媒体和数字平台上，许多系统依赖算法来最大化用户参与度。教皇警告，这类机制可能会塑造不健康的公共讨论环境：它们容易放大愤怒、奖励耸动内容，并把用户困在**“共识或愤怒的泡泡”**中，从而削弱批判性思考和深度倾听。

因此，他强调，沟通最终仍然应该由人承担责任。如果机器在信息生产与传播中占据主导地位，社会可能会逐渐失去创造力、责任感和真正的对话。

为什么“人的面孔与声音”如此重要

在这份致辞中，“面孔与声音”是一个核心概念。利奥十四世指出，它们是个人身份与人与人关系的独特表达，也是人按照上帝形象被创造的象征。

因此，保护人的面孔与声音不仅仅意味着防范深度伪造（deepfake）或合成媒体。更重要的是维护沟通中的关系维度——同理心、责任感以及人与人之间真实的相遇。

他警告说，如果技术让这些人性特质被掩盖，就等于“隐藏我们的面孔、让我们的声音沉默”，最终削弱支撑社会与精神生活的人际关系。

引导AI发展的三项原则

为了应对人工智能带来的挑战，利奥十四世提出了三项指导原则：

• 责任（Responsibility）：技术开发者、机构和传播者必须确保AI系统以伦理方式使用，不损害人的尊严和真理。
• 合作（Cooperation）：政府、科技行业、教育界与公民社会需要共同制定规范与政策，推动负责任的AI治理。
• 教育（Education）：社会必须加强数字与媒体素养，使人们能够理解并审视AI工具，而不是被动接受其结果。

这些原则表明，仅靠技术进步本身无法解决问题。人类的判断、伦理反思和共同责任仍然不可或缺。

马丁总主教的回应

教会领袖也迅速回应了教皇的警告。爱尔兰阿马教区总主教伊蒙·马丁（Eamon Martin）指出，当今技术已经能够模仿声音、生成面孔、甚至制造看似真实的人类情感表达，这使真实沟通与人工模拟之间的界限变得越来越模糊。

他呼吁天主教徒和媒体从业者在数字环境中积极守护人的尊严，确保新技术不会抹去那些建立信任和社区所必需的人类元素。

AI成为利奥十四世任期的重要议题

世界社会传播日的这份信息也被视为梵蒂冈更广泛关注人工智能的一部分。

多个举措显示，AI伦理与治理正逐渐成为利奥十四世早期任期的重要议题：

• 第三届罗马人工智能、伦理与治理大会将于2026年6月18日至20日在罗马举行，届时科技、商业、学术与政策领域的领导者将共同讨论AI对社会的影响。
• 梵蒂冈已经成立人工智能研究小组，专门研究这一技术对人类和教会社会训导的意义。
• 梵蒂冈官员还表示，教皇即将发布的首份重要教会文件可能会在更广泛的框架下讨论AI，包括人的尊严、劳动、公义与和平等议题。

这些举措显示，天主教会正试图在全球关于人工智能伦理与治理的讨论中发挥更积极的角色。

在科技时代守住“人的核心”

利奥十四世的讯息传递出一个清晰警告：技术创新绝不能以牺牲人类为代价。人工智能或许会改变沟通方式，但技术的真正目标应当是服务人的尊严、加深人与人之间的关系、并加强对真理的追求——而不是取代人的声音本身。

在一个充满合成图像、自动生成语音和算法决策的世界里，守护真实的人类存在，或许将成为数字时代最重要的挑战之一。