Peringatan Paus Leo XIV soal AI: Mesin Harus Tetap Berada di Bawah Kendali Manusia

Pesan terbaru Paus Leo XIV tentang kecerdasan buatan bukanlah penolakan terhadap teknologi. Peringatannya terutama menyasar siapa yang mengendalikan AI dan apa yang terjadi ketika tanggung jawab manusia diserahkan kepada mesin.

Dalam pidatonya kepada International Catholic Legislators Network pada 21 Agustus dan International Institute of Administrative Sciences pada 28 Agustus, ia menyerukan agar AI tetap menjadi pelayan kepentingan bersama—dibimbing oleh kecerdasan manusia, hati nurani, dan hukum, bukan semata-mata oleh kecepatan, keuntungan, atau sistem yang tidak transparan.

Kedua pidato tersebut menerapkan prinsip utama ensikliknya, Magnifica Humanitas: kemajuan teknologi harus dinilai berdasarkan kemampuannya melindungi martabat manusia, keadilan, perdamaian, dan kebebasan manusia untuk mengambil keputusan secara bermakna. 16

Administrasi publik tidak boleh menjadikan manusia korban ciptaannya sendiri

Saat berbicara kepada anggota International Institute of Administrative Sciences, Leo memperingatkan bahwa perkembangan AI yang sangat cepat dapat membuat umat manusia “menjadi korban” dari penemuannya sendiri. Ia secara khusus menolak penyerahan keputusan yang menyangkut kehidupan manusia kepada mesin.

Namun, solusi yang ia tawarkan bukanlah meninggalkan teknologi digital. Ia justru menyerukan agar teknologi tersebut dimanusiakan. Para peneliti administrasi publik didorong untuk menemukan cara agar sistem digital melayani kehidupan dan perdamaian, dengan menempatkan manusia—bukan proses otomatis—di pusat pengambilan keputusan publik.

Seruan ini menetapkan batas yang jelas bagi otomatisasi. AI dapat membantu administrasi, tetapi tidak boleh menghapus penilaian manusia, tanggung jawab, dan akuntabilitas moral ketika sebuah keputusan berdampak pada hak, kesejahteraan, atau martabat seseorang.

Kekuasaan AI berisiko terkonsentrasi pada segelintir pihak

Dalam pidatonya pada 21 Agustus kepada International Catholic Legislators Network, Leo menyoroti tanggung jawab politik para pembuat undang-undang. Vatikan mengangkat tema pertemuan tersebut sebagai “Martabat Manusia dan Kecerdasan Buatan: Tantangan, Peluang, dan Pengendalian”, yang menempatkan tata kelola AI sebagai salah satu pertanyaan paling menentukan zaman ini.

Kekhawatirannya bukan sekadar kemungkinan bahwa sistem AI melakukan kesalahan. Masalah yang lebih besar adalah teknologi canggih dan kekuasaan untuk menentukan penggunaannya dapat terkonsentrasi di tangan sejumlah kecil aktor ekonomi dan teknologi besar. Leo memperingatkan bahwa kondisi ini dapat membuat negara-negara yang lebih miskin semakin bergantung pada negara-negara yang lebih kaya serta memperlebar ketimpangan yang sudah ada.

Ia juga mengingatkan bahwa inovasi dapat berubah menjadi sarana “kolonialisme ideologis atau ekonomi”. Karena itu, tata kelola AI bukan hanya persoalan regulasi nasional, melainkan juga persoalan hubungan internasional.

Algoritma dapat menciptakan dominasi yang tidak terlihat

Leo menggambarkan risiko lain: algoritma dan platform digital dapat menjalankan kekuasaan tanpa tampak memerintah secara langsung. Menurutnya, algoritma bisa menentukan siapa yang dilihat dan siapa yang tetap tidak terlihat, sementara platform digital membentuk wacana publik tanpa akuntabilitas yang memadai. Sistem otomatis juga dapat menempatkan martabat pekerja di bawah kepentingan optimasi.

Persoalan ini lebih luas daripada bias teknis semata. Yang dipertaruhkan adalah siapa yang menetapkan aturan tentang visibilitas, partisipasi, dan kesempatan—serta apakah orang-orang yang terdampak memiliki cara yang berarti untuk menggugat keputusan tersebut.

Ketika sistem milik swasta memengaruhi percakapan publik atau akses terhadap pekerjaan tanpa transparansi, kekuasaan sosial dapat bergeser menjauh dari lembaga demokratis dan pengawasan publik.

Mengapa keluarga menjadi perhatian utama

Leo menyebut keluarga sebagai “sekolah pertama kemanusiaan” dan mendesak para legislator agar mencegah AI mengikis peran tersebut.

Intinya, pembentukan manusia dimulai melalui relasi yang mengajarkan kepercayaan, tanggung jawab, kemurahan hati, dialog, dan kepedulian terhadap sesama. Nilai-nilai itu tidak dapat disamakan dengan kecepatan atau kapasitas komputasi sistem AI.

Magnifica Humanitas juga memperingatkan agar manusia tidak menyamakan kinerja mesin dengan kecerdasan manusia. Sistem AI dapat meniru fungsi tertentu dari kecerdasan dan mengungguli manusia dalam kecepatan maupun kapasitas komputasi, tetapi tidak memiliki pengalaman manusia atau tubuh yang menjalani pengalaman tersebut. 16

Bagi Leo, melindungi kehidupan keluarga karena itu merupakan bagian dari kebijakan AI. Pertanyaannya bukan hanya apakah sebuah sistem efisien, melainkan apakah penggunaannya mendukung relasi dan institusi tempat manusia belajar mengenai kebebasan, tanggung jawab, serta solidaritas.

Perlindungan yang diminta dari para legislator

Rekomendasi Leo mengarah pada kerangka tata kelola AI yang berpusat pada manusia:

• Melindungi hak dan kebebasan dasar. Peraturan harus memastikan bahwa kemajuan teknologi tidak mengorbankan martabat manusia.
• Menjaga privasi. Pengguna harus dilindungi dari eksploitasi dan penggunaan informasi pribadi yang tidak semestinya.
• Mewajibkan transparansi. Masyarakat dan lembaga perlu memahami bagaimana teknologi baru digunakan dan bagaimana keputusan yang berdampak besar dibuat.
• Memperkuat institusi demokratis. Sistem digital harus memperkuat, bukan melewati, tata kelola publik yang dapat dimintai pertanggungjawaban.
• Mempertahankan tanggung jawab manusia. Keputusan yang berdampak pada kehidupan dan martabat manusia tidak boleh diserahkan kepada mesin tanpa kendali manusia yang bermakna.
• Mencegah dominasi dan konsentrasi berlebihan. Tata kelola harus mengatasi risiko ketika AI canggih dikendalikan oleh segelintir aktor yang sangat kuat.

Langkah-langkah tersebut mencerminkan argumen yang lebih luas dalam ensiklik itu: teknologi tidak pernah sepenuhnya netral secara sosial. Teknologi dapat mendorong partisipasi dan keadilan, tetapi juga dapat memperkuat ketimpangan, kontrol, dan pengucilan.

Bagaimana pidato-pidato itu memperluas Magnifica Humanitas

Diterbitkan pada Mei 2026, Magnifica Humanitas secara khusus membahas perlindungan manusia di era AI. Ukuran utamanya adalah apakah teknologi tetap diarahkan untuk melayani umat manusia atau berubah menjadi alat dominasi, pengucilan, dan perang. Ensiklik tersebut menyerukan agar AI “dilucuti” dari logika-logika yang merusak itu. 51016

Pidato-pidato pada Agustus menerjemahkan prinsip tersebut menjadi tanggung jawab bagi dua kelompok. Administrator publik harus memastikan sistem digital melayani warga dan mempertahankan penilaian manusia. Para legislator harus membuat aturan yang melindungi hak, privasi, transparansi, dan kehidupan demokratis. Sementara itu, para peneliti berperan menemukan cara praktis agar teknologi digital melayani kehidupan dan perdamaian.

Jika disatukan, peringatan Leo bersifat pencegahan. Ia meminta masyarakat menetapkan aturan yang berpusat pada manusia ketika sistem AI masih terus dikembangkan dan diterapkan—bukan setelah platform yang tidak transparan, kekuasaan yang terkonsentrasi, dan pengambilan keputusan otomatis telanjur terlalu mengakar untuk ditantang.

Standar yang ia tawarkan sederhana: AI harus memperluas kepentingan bersama tanpa menggantikan manusia yang bertanggung jawab untuk mendefinisikan dan mempertahankannya.