1. 裁军与“对人类友好”的AI
教皇利奥十四世直接呼吁将AI“解除武装”并使其“对人类友好”,警告不要进行一场“追求更强大算法和更大规模语言模型的竞赛”,因为这会使人类丧失人性。这种表述将不受约束的AI发展,构架为一种威胁人类尊严本身的军备竞赛,而非进步。
4. 保护劳动者
这份文件呼应了教会关于劳工问题的悠久社会训导传统,警告AI绝不能用于剥削工人,或在没有公正转型和保护措施的情况下取代人类劳动。同时,文件指出了AI背后“新形式的奴役”,从内容审核员到矿产开采者。
5. 拒绝“权力文化”
利奥十四世谴责了那种将AI本身视为目的的技术至上主义心态,将试图构建一个排斥上帝的AI未来的行为,比作圣经中的巴别塔(Tower of Babel)。这种神学视角将不负责任的AI发展视为一种狂妄自大的行为。通谕的第三章“技术与支配”(Technology and Dominance)深入阐述了这一论点,并要求在AI发展的全过程中建立明确的问责制
。
奥拉赫在座谈会上的完整逐字稿尚未被广泛公开,但事件的报道和会前预告概述了他发言的要点。作为与顶级枢机主教和神学家同台的平信徒发言人,奥拉赫利用这一历史性的平台,推广了与Anthropic“安全优先”理念相一致的AI发展愿景。
据报道,奥拉赫将AI框架为一个共同的道德关切,认为AI的发展不仅是一个技术挑战,更是一个关乎人类尊严的问题,需要广泛的社会参与——明确地说,包括来自宗教传统的参与。他强调了“安全优先”发展的重要性,指出AI系统必须建立强有力的保护措施,整个行业必须将人类福祉置于无节制的竞争之上
。与技术乌托邦的论调截然不同,奥拉赫承认AI研究人员并没有所有答案,必须认真对待科技领域之外的伦理框架,并指出天主教社会训导是一个宝贵的资源
。
5月25日的活动并非一次心血来潮的合影机会;它是Anthropic一项深思熟虑且持续已久的战略的公开顶点,该战略旨在与宗教和智慧传统建立桥梁。
在5月19日的一份新闻稿中,Anthropic透露,在过去几个月里,它一直在组织其研究人员与梵蒂冈官员(包括神学家和伦理学家)之间的对话,以建立对AI风险和道德维度的共同理解。公司表示,其第一轮讨论涉及“超过15个宗教和跨文化团体”,这是将其AI发展扎根于科技行业之外的道德传统这一更广泛努力的一部分
。
Anthropic更广泛的行动模式更加揭示问题。在梵蒂冈事件发生数月前,该公司就与一位天主教神父及其他信仰领袖合作,直接参与塑造了“Claude宪法”——即指导其AI行为的一套核心准则。奥拉赫本人发起了这项外联,希望获得帮助,将伦理价值观编码到公司系统中。这反映了Anthropic创立之初的使命:构建“有益、诚实、无害”的AI,并进行部署前的安全研究——这些价值观与梵蒂冈对人类尊严和审慎行事的强调自然产生共鸣
。
奥拉赫在罗马的亮相表明,该公司将教会视为全球AI监管对话中的一个严肃的机构合作伙伴——一个拥有道德权威和全球影响力、任何科技联盟或国家监管机构都无法匹敌的伙伴。梵蒂冈邀请奥拉赫同台发布的决定,是对这一战略最重大的认可。
在一个AI发展正加速狂奔的世界里,《宏伟人性》及其历史性的发布会,代表了一个明确的要求:技术必须服务人类,而非统治人类。对Anthropic而言,与教皇站在一起,清晰地表明了它想要站在哪一边。
Comments
0 comments