Paus Leo Minta Risiko AI Ditanggapi Serius, Bukan Dianggap “Berita Bohong”

Dalam penerbangan kembali ke Roma dari Prancis pada 28 September, Paus Leo XIV menolak anggapan bahwa peringatan tentang bahaya kecerdasan buatan (AI) bisa begitu saja disebut “berita bohong”. Menurutnya, kekhawatiran para ahli perlu ditanggapi serius. Ia mengajak orang membicarakan risikonya, bukan “duduk diam dan berpura-pura tidak akan terjadi apa-apa”. 26

Seruan Leo: bahas risikonya, jangan mengabaikannya

Saat ditanya tentang kemungkinan AI menimbulkan risiko katastrofis, Leo menyebutnya sebagai persoalan yang perlu dibicarakan bersama. Ia tidak mengatakan bencana pasti terjadi; pesannya adalah bahwa risiko serius tidak seharusnya disingkirkan tanpa diskusi atau tindakan. 26

Reuters melaporkan bahwa pernyataan Leo tampak menyanggah Presiden Donald Trump. Paus itu juga mengkritik para CEO teknologi yang berpendapat bahwa AI tidak perlu dibatasi. 7

Berbeda pandangan dengan Trump

Trump sebelumnya menyebut kekhawatiran bahwa AI bisa lepas kendali sebagai “hoaks”, menurut Associated Press. 2 Leo mengambil sikap berbeda: kekhawatiran para ahli soal keselamatan AI layak dipertimbangkan dengan serius dan ditindaklanjuti. 27

Perbedaan ini menempatkan perdebatan AI bukan sekadar pilihan antara mendorong inovasi atau menjaga keselamatan. Pemberitaan menggambarkan Trump menekankan persaingan dengan China, sementara Leo mengingatkan agar potensi bahaya tidak dianggap remeh. 2

Konteks Anthropic dan Nvidia

Salah satu hal yang terdokumentasi terkait Anthropic adalah seruan CEO-nya, Dario Amodei, agar ada aturan yang mewajibkan audit independen terhadap model AI canggih. 1 Namun, itu merupakan posisi yang dilaporkan dari CEO perusahaan tersebut—bukan bukti bahwa peneliti Anthropic menyampaikan peringatan khusus dalam percakapan Leo di pesawat.

Sumber yang tersedia juga tidak memastikan secara rinci posisi Jensen Huang, CEO Nvidia, mengenai regulasi AI. Karena itu, tidak tepat menggambarkan komentar Leo sebagai tanggapan langsung terhadap Huang.

Tindakan yang diserukan—dan yang tidak dirinci

Dalam penerbangan itu, Leo meminta agar kekhawatiran para ahli ditanggapi serius, persoalannya dibicarakan, dan orang tidak berpura-pura bahwa risiko tidak mungkin terjadi. 26 Laporan yang dirujuk di sini tidak menunjukkan bahwa ia memaparkan rencana tindakan terperinci khusus bagi pemimpin politik, perusahaan teknologi, dan masyarakat sipil dalam kesempatan tersebut.

Pernyataan Leo yang lebih luas selama kunjungan ke Prancis memberi konteks tambahan. Dalam pidato di Istana Élysée, ia memperingatkan agar manusia tidak kehilangan kemanusiaannya di tengah “surga mesin” dan menyerukan pengembangan pertimbangan etis seiring teknologi membentuk kehidupan sehari-hari. 8 Pesan itu memperkuat kepeduliannya agar penilaian manusia tetap menjadi pusat, tetapi perlu dibedakan dari pernyataan yang secara eksplisit ia sampaikan kepada wartawan dalam penerbangan pulang.