Giáo hoàng Leo XIV và 'cha đẻ' của Claude kêu gọi 'giải giáp' AI trong sự kiện chưa từng có tại Vatican

Tông huấn Yêu cầu Điều gì: 'Giải giáp' AI và Bác bỏ 'Văn hóa Quyền lực'

Magnifica Humanitas không phải là một suy ngẫm thận trọng về công nghệ; nó là một bản tuyên ngôn bao quát với những yêu cầu quản trị cụ thể. Văn kiện được ký vào ngày 15 tháng 5 và được trình bày với chính giáo hoàng đọc diễn văn bế mạc, phác thảo một tầm nhìn về AI hoàn toàn trái ngược với quỹ đạo phát triển hiện tại của ngành công nghiệp này .

1. Giải trừ vũ khí và AI 'Thân thiện với con người'
Giáo hoàng Leo XIV đã trực tiếp kêu gọi phải "giải giáp" AI và làm cho nó "thân thiện với con người", cảnh báo chống lại "một cuộc chạy đua giành lấy những thuật toán ngày càng mạnh mẽ hơn và những mô hình ngôn ngữ lớn hơn" đang phi nhân hóa con người . Ngôn ngữ này định hình sự phát triển AI không giới hạn không phải là tiến bộ mà là một hình thức chạy đua vũ trang đe dọa chính phẩm giá con người.

2. Quy định Pháp lý Mạnh mẽ vì Lợi ích Chung
Đức Giáo hoàng nhấn mạnh rằng các nhà phát triển AI phải làm việc vì lợi ích chung thay vì chỉ vì lợi nhuận, đồng thời kêu gọi các khuôn khổ pháp lý và quy định mạnh mẽ để quản lý công nghệ này . Tông huấn nêu rõ: không thể tin tưởng vào thị trường để tự định hướng sự phát triển AI theo cách phục vụ rộng rãi cho nhân loại.

3. Cấm Vũ khí Tự động
Trong một trong những yêu cầu cụ thể nhất của mình, Magnifica Humanitas lên án việc sử dụng AI trong chiến tranh, kêu gọi cấm các hệ thống vũ khí sát thương tự động. Đức Giáo hoàng tuyên bố rằng việc giao phó những quyết định chết người không thể đảo ngược cho các hệ thống AI là không thể chấp nhận được về mặt đạo đức .

4. Bảo vệ Người lao động
Lặp lại truyền thống lâu đời của Giáo hội về giáo huấn xã hội liên quan đến lao động, văn kiện cảnh báo rằng AI không được sử dụng để bóc lột người lao động hoặc thay thế sức lao động của con người mà không có các quá trình chuyển đổi và bảo vệ công bằng, chỉ ra "những hình thức nô lệ mới" đằng sau AI, từ người kiểm duyệt nội dung đến thợ mỏ .

5. Bác bỏ 'Văn hóa Quyền lực'
Đức Leo XIV lên án tư duy "kỹ trị cứu thế" coi AI là cứu cánh tự thân, so sánh nỗ lực xây dựng một tương lai AI loại trừ Thiên Chúa với câu chuyện Tháp Babel trong Kinh thánh . Khuôn khổ thần học này định vị sự phát triển AI vô trách nhiệm như một hành động ngạo mạn. Chương thứ ba, có tiêu đề "Công nghệ và Sự Thống trị", phát triển lập luận này và kêu gọi trách nhiệm giải trình rõ ràng trong suốt quá trình phát triển AI .

Tòa Thánh đã củng cố thêm cam kết thể chế của mình bằng cách thành lập một ủy ban AI mới vào ngày 16 tháng 5, có nhiệm vụ điều phối các hoạt động liên quan đến AI trên khắp các cơ quan của Vatican và thiết lập chính sách cho việc sử dụng AI trong nội bộ Tòa Thánh .

Phát biểu của Christopher Olah: An toàn, Sự Khiêm tốn và Dấn thân Đạo đức

Các bản ghi chép nguyên văn đầy đủ về bài phát biểu của Olah trong hội thảo chưa được công bố rộng rãi, nhưng các bài báo đưa tin về sự kiện và những hé lộ trước đó đã phác thảo được thông điệp chính của ông . Xuất hiện với tư cách là diễn giả giáo dân bên cạnh các Hồng y và nhà thần học hàng đầu, Olah đã sử dụng diễn đàn lịch sử này để thúc đẩy một tầm nhìn phát triển AI phù hợp với triết lý đặt an toàn lên hàng đầu của Anthropic.

Theo các báo cáo, Olah đã định hình AI như một mối quan tâm đạo đức chung, lập luận rằng phát triển AI không chỉ đơn thuần là một thách thức kỹ thuật mà là một câu hỏi về phẩm giá con người, đòi hỏi ý kiến đóng góp rộng rãi của xã hội—bao gồm cả, một cách rõ ràng, từ các truyền thống tôn giáo . Ông nhấn mạnh sự cần thiết phải ưu tiên phát triển an toàn, khẳng định các hệ thống AI phải được xây dựng với các biện pháp bảo vệ chắc chắn và ngành công nghiệp này phải ưu tiên phúc lợi con người hơn là cạnh tranh không kiểm soát . Trong một sự khác biệt đáng chú ý so với giọng điệu lạc quan về công nghệ, Olah đã thừa nhận rằng các nhà nghiên cứu AI không có tất cả các câu trả lời và phải tham gia một cách nghiêm túc với các khuôn khổ đạo đức bên ngoài lĩnh vực công nghệ, đồng thời chỉ ra học thuyết xã hội Công giáo như một nguồn tham khảo quý giá .

Sự hiện diện của ông mang tính lịch sử: đây là lần đầu tiên một lãnh đạo cấp cao của công ty AI chia sẻ sân khấu với một giáo hoàng tại buổi ra mắt một tông huấn. Hình ảnh này không bị bỏ lỡ bởi các nhà quan sát, những người lưu ý rằng nó cho thấy Anthropic coi Giáo hội là một đồng minh thể chế quý giá trong việc ủng hộ các chuẩn mực an toàn trong quản trị AI .

Chiến lược Đằng sau Sân khấu: Sự Dấn thân của Anthropic với các Tổ chức Tôn giáo

Sự kiện ngày 25 tháng 5 không phải là một cơ hội chụp ảnh tự phát; nó là đỉnh cao công khai của một chiến lược có chủ ý và lâu dài của Anthropic nhằm xây dựng cầu nối với các truyền thống tôn giáo và trí tuệ.

Trong một thông cáo báo chí vào ngày 19 tháng 5, Anthropic tiết lộ rằng họ đã dành "vài tháng qua" để tổ chức các cuộc đối thoại giữa các nhà nghiên cứu của mình và các quan chức Vatican, bao gồm các nhà thần học và đạo đức học, để xây dựng sự hiểu biết chung về các rủi ro và khía cạnh đạo đức của AI . Công ty cho biết vòng thảo luận đầu tiên của họ đã thu hút "hơn 15 nhóm tôn giáo và đa văn hóa" như một phần của nỗ lực lớn hơn nhằm đặt nền tảng phát triển AI của mình trên các truyền thống đạo đức bên ngoài lĩnh vực công nghệ .

Khuôn mẫu hoạt động rộng hơn của Anthropic thậm chí còn tiết lộ nhiều điều hơn. Nhiều tháng trước sự kiện tại Vatican, công ty đã làm việc với một linh mục Công giáo và các nhà lãnh đạo tôn giáo khác để trực tiếp định hình "Hiến pháp Claude", bộ nguyên tắc chỉ đạo cách thức AI của họ hành xử . Chính Olah là người khởi xướng việc tiếp cận này, tìm kiếm sự giúp đỡ để mã hóa các giá trị đạo đức vào hệ thống của công ty. Điều này phản ánh sứ mệnh thành lập của Anthropic là xây dựng AI "hữu ích, trung thực và vô hại" và tiến hành nghiên cứu an toàn trước khi triển khai—những giá trị vang vọng một cách tự nhiên với sự nhấn mạnh của Vatican về phẩm giá con người và sự thận trọng .

Việc Olah có mặt tại Rome báo hiệu rằng công ty coi Giáo hội là một đối tác thể chế nghiêm túc trong cuộc trò chuyện toàn cầu về quy định AI—một tổ chức mang lại thẩm quyền đạo đức và phạm vi tiếp cận toàn cầu mà không một tập đoàn công nghệ hay cơ quan quản lý quốc gia nào có thể sánh được . Quyết định của Vatican mời Olah cùng trình bày đã trao cho chiến lược đó sự chứng thực quan trọng nhất từ trước đến nay.

Trong một thế giới mà sự phát triển AI đang tăng tốc, Magnifica Humanitas và buổi ra mắt lịch sử của nó đại diện cho một yêu cầu rõ ràng: công nghệ phải phục vụ, chứ không phải thống trị. Và đối với Anthropic, việc sát cánh cùng Giáo hoàng là một tín hiệu rõ ràng cho thấy họ muốn đứng về phía nào trong cuộc tranh luận đó.