Paus Leo XIV dan Co-Founder Anthropic Luncurkan Ensiklik AI Bersejarah: Serukan 'Perlucutan Senjata' Kecerdasan Buatan

Tuntutan Ensiklik: 'Lumpuhkan' AI dan Tolak 'Budaya Kekuasaan'

Magnifica Humanitas bukanlah refleksi hati-hati tentang teknologi; ini adalah manifesto luas dengan tuntutan tata kelola yang konkret. Dokumen yang ditandatangani pada 15 Mei dan dipresentasikan dengan paus sendiri menyampaikan pidato penutupnya ini, menguraikan visi untuk AI yang secara eksplisit bertentangan dengan lintasan industri saat ini .

1. Perlucutan Senjata dan AI 'Ramah Manusia'
Paus Leo XIV secara langsung menyerukan agar AI "dilucuti" dan dibuat "ramah manusia," memperingatkan terhadap "perlombaan untuk algoritma yang semakin kuat dan model bahasa yang lebih besar" yang mendehumanisasi manusia . Bahasa ini membingkai pengembangan AI yang tak terkendali bukan sebagai kemajuan, melainkan sebagai bentuk perlombaan senjata yang mengancam martabat manusia itu sendiri.

2. Regulasi yang Kuat demi Kebaikan Bersama
Paus bersikeras agar pengembang AI bekerja demi kebaikan bersama, bukan semata-mata keuntungan, dengan menyerukan kerangka hukum dan regulasi yang kuat untuk mengatur teknologi ini . Ensiklik ini dengan jelas menyatakan: pasar saja tidak dapat dipercaya untuk memandu pengembangan AI ke arah yang melayani umat manusia secara luas.

3. Melarang Senjata Otonom
Dalam salah satu tuntutannya yang paling konkret, Magnifica Humanitas mengutuk penggunaan AI dalam peperangan, menyerukan pelarangan sistem senjata otonom mematikan. Paus menyatakan bahwa tidak dapat diterima secara moral untuk mempercayakan keputusan mematikan yang tidak dapat diubah kepada sistem AI .

4. Melindungi Pekerja
Menggemakan tradisi panjang ajaran sosial Gereja tentang perburuhan, dokumen tersebut memperingatkan bahwa AI tidak boleh digunakan untuk mengeksploitasi pekerja atau menggantikan tenaga kerja manusia tanpa transisi dan perlindungan yang adil, dengan menunjuk pada "bentuk-bentuk perbudakan baru" di balik AI, mulai dari moderator konten hingga para penambang .

5. Menolak 'Budaya Kekuasaan'
Leo XIV mengecam pola pikir tekno-solusionis yang memperlakukan AI sebagai tujuan akhir, membandingkan upaya membangun masa depan AI yang mengecualikan Tuhan dengan Menara Babel dalam Alkitab . Bingkai teologis ini menempatkan pengembangan AI yang tidak bertanggung jawab sebagai tindakan kesombongan. Bab ketiga, yang berjudul "Teknologi dan Dominasi," mengembangkan argumen ini dan menyerukan akuntabilitas yang jelas di seluruh pengembangan AI .

Vatikan semakin memperkuat komitmen institusionalnya dengan mendirikan komisi AI baru pada 16 Mei, yang bertugas mengoordinasikan kegiatan terkait AI di seluruh institusi Vatikan dan menetapkan kebijakan untuk penggunaan AI di dalam Takhta Suci .

Pernyataan Christopher Olah: Keamanan, Kerendahan Hati, dan Keterlibatan Moral

Transkrip lengkap kata demi kata dari pernyataan panel Olah tidak dipublikasikan secara luas, tetapi liputan acara dan pratinjau sebelum acara menguraikan pokok utama pesannya . Tampil sebagai pembicara awam bersama para kardinal dan teolog terkemuka, Olah menggunakan panggung bersejarah ini untuk mendorong visi pengembangan AI yang selaras dengan etos keamanan-pertama Anthropic.

Olah dilaporkan membingkai AI sebagai keprihatinan moral bersama, dengan alasan bahwa pengembangan AI bukan hanya tantangan teknis tetapi pertanyaan tentang martabat manusia yang menuntut masukan luas dari masyarakat—termasuk, secara eksplisit, dari tradisi keagamaan . Ia menekankan perlunya pengembangan yang mengutamakan keamanan, menekankan bahwa sistem AI harus dibangun dengan perlindungan yang kuat dan industri harus memprioritaskan kesejahteraan manusia di atas persaingan yang tidak terkendali . Dalam sebuah keberangkatan penting dari retorika tekno-utopis, Olah mengakui bahwa para peneliti AI tidak memiliki semua jawaban dan harus terlibat secara serius dengan kerangka etika di luar sektor teknologi, menunjuk pada ajaran sosial Katolik sebagai sumber daya yang berharga .

Kehadirannya bersejarah: ini menandai pertama kalinya seorang eksekutif AI besar berbagi panggung dengan seorang paus dalam peluncuran ensiklik kepausan. Simbolisme ini tidak hilang dari para pengamat, yang mencatat bahwa hal itu menunjukkan Anthropic melihat Gereja sebagai sekutu institusional yang berharga dalam mengadvokasi norma-norma keamanan dalam tata kelola AI .

Strategi di Balik Panggung: Keterlibatan Anthropic dengan Institusi Keagamaan

Acara 25 Mei bukanlah kesempatan foto spontan; itu adalah puncak publik dari strategi yang disengaja dan berjalan lama oleh Anthropic untuk membangun jembatan dengan tradisi keagamaan dan kearifan.

Dalam rilis pers 19 Mei, Anthropic mengungkapkan bahwa mereka telah menghabiskan "beberapa bulan terakhir" untuk menyelenggarakan dialog antara para penelitinya dan pejabat Vatikan, termasuk para teolog dan ahli etika, untuk membangun pemahaman bersama tentang risiko dan dimensi moral AI . Perusahaan itu mengatakan bahwa putaran pertama diskusinya melibatkan "lebih dari 15 kelompok keagamaan dan lintas budaya" sebagai bagian dari upaya yang lebih luas untuk mendasarkan pengembangan AI-nya pada tradisi moral di luar sektor teknologi .

Pola Anthropic yang lebih luas bahkan lebih mengungkap. Beberapa bulan sebelum acara Vatikan, perusahaan tersebut bekerja sama dengan seorang pastor Katolik dan para pemimpin agama lainnya untuk secara langsung membentuk "Konstitusi Claude," seperangkat prinsip panduan yang mengatur bagaimana AI-nya berperilaku . Olah sendiri yang memprakarsai penjangkauan tersebut, mencari bantuan untuk menyandikan nilai-nilai etika ke dalam sistem perusahaan. Ini mencerminkan misi pendirian Anthropic untuk membangun AI yang "membantu, jujur, dan tidak berbahaya" dan untuk melakukan penelitian keamanan pra-penerapan—nilai-nilai yang selaras secara alami dengan penekanan Vatikan pada martabat manusia dan kehati-hatian .

Kehadiran Olah di Roma menandakan bahwa perusahaan memandang Gereja sebagai mitra institusional yang serius dalam percakapan global tentang regulasi AI—yang membawa otoritas moral dan jangkauan global yang tidak dapat ditandingi oleh konsorsium teknologi atau regulator nasional mana pun . Keputusan Vatikan untuk mengundang Olah sebagai co-presenter memberikan strategi itu dukungan paling signifikan hingga saat ini.

Di dunia di mana pengembangan AI semakin cepat, Magnifica Humanitas dan peluncurannya yang bersejarah mewakili tuntutan yang jelas: teknologi harus melayani, bukan mendominasi. Dan bagi Anthropic, berdiri bersama Paus adalah sinyal yang jelas tentang sisi debat mana yang ingin ia tempati.