Paus Leo XIV Perintahkan Dunia Lucuti AI. Para Teknolog Eropa Tidak Peduli.

Ensiklik ini berargumen bahwa teknologi tidak pernah netral karena ia mengambil karakteristik dari mereka yang menciptakan, mendanai, mengatur, dan menggunakannya . Solusinya bukanlah berhenti membangun model, tetapi menundukkannya pada aturan mengikat yang berlabuh pada martabat manusia, bukan pada keuntungan atau dominasi geopolitik .

Melarang Perang Algoritmik

Titik nyala paling langsung dalam ensiklik ini adalah pendiriannya tentang teknologi mematikan. Paus Leo XIV menulis bahwa "tidak diizinkan untuk mempercayakan keputusan permanen yang mematikan kepada sistem AI" . Beliau melangkah lebih jauh dengan menyatakan teori "perang yang adil" tradisional sudah ketinggalan zaman dalam menghadapi persenjataan yang diarahkan AI yang meningkatkan konflik di luar kendali manusia, memperingatkan bahwa beberapa sistem telah maju "praktis melampaui jangkauan manusia untuk mengaturnya secara efektif" . Posisi ini menciptakan konfrontasi langsung dengan kebijakan pertahanan pemerintahan Trump dan negara mana pun yang saat ini mengintegrasikan AI ke dalam rantai komando pembunuhan mereka .

Serangan Struktural terhadap Big Tech

Sementara kritik militer menjadi tajuk utama, analisis ekonomi ensiklik ini sama luasnya. Magnifica Humanitas secara eksplisit menyerukan pembubaran kontrol monopolistik atas teknologi AI . Dokumen ini mengecam "budaya kekuasaan" dan keuntungan yang mendorong perlombaan untuk kumpulan data dan model yang lebih besar, memperingatkan bahwa konsentrasi data dan kekayaan di tangan segelintir orang ini adalah ketidakadilan struktural yang berisiko memperlebar ketimpangan dan menciptakan apa yang Paus sebut sebagai "bentuk-bentuk baru perbudakan" .

Dokumen ini menegaskan bahwa tidak cukup bagi perusahaan untuk hanya menyerukan etika secara abstrak. Ia menuntut apa yang disebutnya kerangka hukum yang kuat, pengawasan independen, dan sistem politik yang tidak mengabaikan tanggung jawabnya untuk mengatur . Pengembang AI, katanya, harus bekerja demi kebaikan bersama, bukan keuntungan, sebuah seruan yang secara implisit menargetkan logika komersial seluruh industri AI konsumen .

Argumen Tandingan Mistral: Kedaulatan di Atas Kesucian

Respons dari salah satu pemimpin AI paling terkemuka di Eropa datang dengan cepat dan langsung. Pada 28 Mei 2026, hanya tiga hari setelah ensiklik ini dirilis, Arthur Mensch, CEO dan salah satu pendiri perusahaan AI Prancis Mistral, menolak kritik Paus atas penggunaan AI militer .

Argumen Mensch bukanlah pembelaan terhadap persenjataan otonom, melainkan pembelaan untuk otonomi strategis Eropa. "Eropa membutuhkan alatnya sendiri untuk mencegah rival yang menggunakan teknologi tersebut," katanya, dan menambahkan, "Kami semua mendukung perdamaian, tetapi jika Anda melihat rival dan musuh kami di dunia, mereka menggunakan kecerdasan buatan" . Posisinya mencerminkan kecemasan mendalam di kalangan pertahanan Eropa: bahwa perlucutan AI sepihak yang bermoral akan membuat benua itu sangat rentan karena baik AS maupun China mempercepat program AI militer mereka. Mensch membingkai masalah ini sebagai pencegahan, menarik garis praktis antara apa yang Vatikan pandang sebagai kemutlakan moral dan apa yang seorang CEO lihat sebagai keniscayaan geopolitik.

Silicon Valley yang Terbelah

Respons sektor teknologi yang lebih luas terbelah tajam antara mereka yang melihat intervensi moral Vatikan sebagai koreksi yang diperlukan dan mereka yang melihatnya sebagai campur tangan tidak praktis dari sebuah institusi yang tidak membangun teknologi .

Aliansi Anthropic. Dukungan simbolis yang paling mencolok datang dari Christopher Olah, salah seorang pendiri Anthropic berusia 33 tahun yang seorang ateis, perusahaan di balik model AI Claude. Kehadiran Olah di konferensi pers Vatikan bukanlah sebuah kebetulan. Anthropic telah menegaskan posisinya pada Februari 2026 dengan membatasi model AI-nya untuk menggerakkan sistem senjata yang dapat membunuh tanpa pengawasan manusia, sebuah keputusan yang menempatkan perusahaan tersebut dalam pertempuran hukum dengan militer AS . Dengan berdiri bersama Paus, Olah memberi sinyal bahwa sebuah faksi dalam komunitas keamanan AI perbatasan (frontier AI safety) bersedia untuk bersekutu dengan kekuatan agama institusional untuk menciptakan pagar pembatas etis yang telah ditolak oleh pasar dan Pentagon .

Para Skeptis. Di sisi lain, reaksinya sangat pedas. Investor dan komentator Peter Scholl menulis di platform X, "Pendapat buruk dari Paus" . Sentimen ini menangkap keresahan yang lebih luas di kalangan teknolog dan pemodal ventura yang khawatir bahwa dukungan kepausan terhadap batasan moral dapat mengeras menjadi ekspektasi publik yang tidak siap dipenuhi oleh industri . Para investor teknologi, peneliti AI, dan beberapa senator AS telah mempertanyakan apakah sebuah institusi keagamaan benar-benar dapat memahami atau secara efektif menahan kekuatan yang coba diaturnya .

Pandangan Analis. Penerbit teknologi Tim O'Reilly memberikan pembacaan yang lebih bernuansa, menulis dalam sebuah analisis terperinci bahwa ensiklik itu "tidak merayakan, juga tidak menjelek-jelekkan AI." Langkah intelektualnya yang sebenarnya, ia berpendapat, adalah mengajukan pertanyaan sederhana pada teknologi apa pun: apakah ia membuat kehidupan manusia lebih manusiawi, ataukah ia memperlakukan orang sebagai data untuk dioptimalkan?

Sebuah Tolok Ukur yang Muncul. Terlepas dari perpecahan tersebut, para pakar di bidang teknologi, akademisi, dan teologi moral Katolik secara luas sepakat bahwa Magnifica Humanitas akan menjadi tolok ukur dalam perdebatan kebijakan AI—sebuah titik acuan yang akan dipaksa untuk dihadapi oleh para pembuat kebijakan, peneliti, dan masyarakat biasa selama bertahun-tahun ke depan . Dokumen ini telah membuka front baru dalam perang budaya seputar AI, di mana bahasanya bukan hanya tentang keselarasan dan keamanan, tetapi tentang dosa, dominasi, dan martabat manusia.