Mengapa Paus Leo Mendorong Aturan Global untuk AI

Paus Leo XIV memandang kecerdasan buatan (AI) sebagai teknologi yang bisa membantu manusia, tetapi juga membawa risiko serius jika perkembangannya tak dibarengi batas etis dan pengawasan publik. Kekhawatirannya mencakup misinformasi, perpecahan sosial, hingga penggunaan AI dalam perang. Menurutnya, tantangan sebesar ini tidak semestinya diserahkan hanya kepada satu negara atau perusahaan teknologi.459

AI bisa bermanfaat, tetapi dampaknya tak otomatis baik

Leo tidak menyerukan agar kemajuan teknologi dihentikan. Ia ingin AI digunakan untuk mendukung martabat manusia dan kebaikan bersama. Dalam ensiklik pertamanya, Magnifica Humanitas—dokumen ajaran kepausan—Vatikan juga menekankan pentingnya kebenaran, martabat kerja, keadilan sosial, dan perdamaian.1216

Namun, manfaat tersebut tidak datang dengan sendirinya. Dalam dokumen besar pertamanya tentang AI, Leo memperingatkan bahwa sistem AI dapat menyebarkan misinformasi dan mengutamakan konflik. Tanpa pengawasan etis, teknologi ini juga berisiko memperlebar ketimpangan dan melemahkan hubungan antarmanusia.49

Dampak sosialnya menjadi perhatian penting. Leo mendorong pengembangan AI yang tidak memperuncing perpecahan, tetapi justru mendukung perdamaian dan memperkuat ikatan antarmanusia.2

Senjata otonom dan kendali manusia

Salah satu kekhawatiran terbesarnya adalah penggunaan AI dalam perang. Leo memperingatkan bahwa senjata otonom dapat mengurangi kendali manusia atas keputusan hidup dan mati. Dalam dokumen besar pertamanya tentang AI, ia menyebut sejumlah sistem senjata telah berkembang hingga nyaris tak bisa lagi dikendalikan manusia.4

BBC juga melaporkan kekhawatirannya bahwa berkurangnya kendali manusia mempersulit penilaian apakah suatu perang dapat dianggap adil. Leo turut memperingatkan bahaya perlombaan senjata berbasis AI.6

Risikonya bukan hanya kemungkinan senjata mengalami kegagalan teknis. AI juga dapat memperbesar konflik dan membuat tanggung jawab atas keputusan menjadi lebih sulit ditentukan. Leo memperingatkan bahwa teknologi ini bisa membawa dunia ke jalur perang tanpa akhir.24

Mengapa aturan publik diperlukan

Leo menyerukan regulasi yang kuat dan meminta pengembang AI bekerja demi kebaikan bersama, bukan menjadikan keuntungan sebagai satu-satunya tujuan.5 Sikap ini sejalan dengan pandangan Vatikan yang lebih luas: kreativitas teknologi perlu didukung, sembari hak asasi dan martabat manusia dilindungi melalui peraturan yang memadai.8

Peringatan Vatikan soal AI bukan baru muncul belakangan. Reuters melaporkan bahwa para pejabat Vatikan telah mengangkat risiko bencana yang dipicu AI bertahun-tahun sebelum sejumlah perusahaan AI besar Amerika Serikat menyuarakan kekhawatiran serupa di Dewan Keamanan PBB pada September 2026.1 Pada 2025, Leo juga mengatakan Gereja perlu merespons revolusi industri baru dan perkembangan AI.

Mengapa kerja sama antarnegara penting

Kardinal Pietro Parolin, sekretaris negara Vatikan, memperingatkan agar negara-negara tidak berjalan sendiri-sendiri dalam menghadapi AI. Ia menyerukan kajian serius atas dampak teknologi tersebut dan menyinggung seruan regulasi yang belakangan muncul dari perusahaan teknologi besar. Bagi Vatikan, tantangan bersama membutuhkan kerja sama antarnegara, bukan pendekatan yang terpisah-pisah.

Seruan dari perusahaan teknologi, bagaimanapun, bukan pengganti aturan publik. Suara industri merupakan bagian dari perdebatan yang lebih luas tentang cara mengawasi AI. Pada September, sekitar 30 uskup Amerika Serikat bertemu secara tertutup dengan tujuh pakar AI yang mewakili empat perusahaan teknologi. Konferensi Waligereja AS juga membentuk gugus tugas AI.

Inti seruan Leo adalah agar tata kelola AI dibangun sebelum penggunaannya dalam masyarakat dan konflik bergerak lebih cepat daripada pertimbangan manusia. Ia mengakui potensi teknologi ini, tetapi menegaskan bahwa perlindungan terhadap manusia, perdamaian, dan pengamanan yang berarti harus menjadi prioritas.2512