Peringatan Pope Leo XIV tentang AI: Mesin Mesti Kekal di Bawah Kawalan Manusia

Pope Leo XIV tidak menyeru supaya teknologi ditolak. Sebaliknya, mesej terbaharunya tentang kecerdasan buatan (AI) berkisar pada satu persoalan asas: siapa yang mengawal AI, dan apa yang berlaku apabila tanggungjawab manusia diserahkan kepada mesin?

Dalam ucapan kepada International Catholic Legislators Network pada 21 Ogos dan International Institute of Administrative Sciences pada 28 Ogos, beliau menggesa agar AI kekal sebagai alat untuk kebaikan bersama—dipandu oleh kecerdasan manusia, hati nurani dan undang-undang, bukannya semata-mata oleh kelajuan, keuntungan atau sistem yang sukar difahami.

Kedua-dua ucapan itu memperincikan prinsip utama ensiklik pertamanya, Magnifica Humanitas: kemajuan teknologi mesti dinilai berdasarkan sejauh mana ia melindungi maruah manusia, keadilan, keamanan dan keupayaan manusia untuk membuat keputusan sendiri. 16

Amaran kepada pentadbir awam: manusia tidak boleh menjadi mangsa ciptaannya sendiri

Ketika berucap kepada anggota International Institute of Administrative Sciences, Leo memberi amaran bahawa perkembangan AI yang terlalu pantas boleh menyebabkan manusia “menjadi mangsa” ciptaannya sendiri. Beliau secara khusus menolak idea bahawa keputusan berkaitan kehidupan manusia diserahkan kepada mesin.

Namun, penyelesaiannya bukanlah meninggalkan teknologi digital. Sebaliknya, beliau menggesa para penyelidik dan pentadbir awam mencari cara untuk memanusiakan teknologi digital, supaya ia berkhidmat kepada kehidupan dan keamanan serta meletakkan manusia—bukan proses automatik—di tengah-tengah keputusan pentadbiran.

Ini menetapkan batas yang jelas terhadap automasi. AI boleh membantu urusan pentadbiran, tetapi tidak sepatutnya menghapuskan pertimbangan manusia, tanggungjawab dan akauntabiliti moral apabila keputusan memberi kesan kepada hak, kebajikan atau maruah seseorang.

Amaran kepada penggubal undang-undang: kuasa AI semakin tertumpu

Dalam ucapan pada 21 Ogos kepada International Catholic Legislators Network, Leo menekankan tanggungjawab politik para penggubal undang-undang. Vatican menetapkan tema pertemuan itu sebagai “Human Dignity and Artificial Intelligence: Challenges, Chances and Control”—atau maruah manusia dan AI: cabaran, peluang serta kawalan—yang menggambarkan tadbir urus AI sebagai antara persoalan paling penting zaman ini.

Kebimbangannya bukan sekadar kemungkinan sesetengah sistem AI melakukan kesilapan. Persoalan yang lebih besar ialah kuasa teknologi canggih dan kuasa menentukan penggunaannya mungkin dikuasai oleh segelintir pemain ekonomi serta teknologi utama. Menurut Leo, keadaan ini boleh menyebabkan negara miskin semakin bergantung kepada negara yang lebih kaya dan memperluas ketidaksamaan sedia ada.

Beliau turut memberi amaran agar inovasi tidak berubah menjadi alat “penjajahan ideologi atau ekonomi”—kebimbangan yang menjadikan tadbir urus AI isu antarabangsa, bukan sekadar perbahasan kawal selia dalam sesebuah negara.

Algoritma boleh mencipta bentuk penguasaan yang tidak kelihatan

Leo menggambarkan satu lagi risiko: algoritma dan platform boleh menggunakan kuasa tanpa kelihatan seperti sedang memerintah secara langsung. Dalam tafsirannya, algoritma boleh menentukan siapa yang diberi perhatian dan siapa yang kekal tidak kelihatan, manakala platform digital membentuk wacana awam tanpa akauntabiliti yang mencukupi. Sistem automatik juga boleh meletakkan maruah pekerja di bawah tuntutan pengoptimuman.

Ini melangkaui isu kecenderungan teknikal atau bias algoritma. Ia menyentuh persoalan tentang siapa yang menetapkan peraturan bagi keterlihatan, penyertaan dan peluang—serta sama ada mereka yang terkesan mempunyai saluran bermakna untuk mencabar keputusan itu.

Apabila sistem swasta mempengaruhi perbualan awam atau akses kepada pekerjaan tanpa ketelusan, kuasa sosial boleh beralih daripada institusi demokratik dan pengawasan awam kepada sistem tertutup yang sukar dipertanggungjawabkan.

Mengapa keluarga turut ditekankan

Leo menyifatkan keluarga sebagai “sekolah pertama kemanusiaan” dan menggesa penggubal undang-undang supaya tidak membenarkan AI menghakis peranan tersebut.

Maksudnya, pembentukan manusia bermula melalui hubungan yang mengajar kepercayaan, tanggungjawab, kemurahan hati, dialog dan keprihatinan terhadap orang lain. Nilai-nilai ini tidak boleh disamakan dengan kelajuan atau keupayaan pengiraan sistem AI.

Magnifica Humanitas turut mengingatkan supaya prestasi mesin tidak disalah anggap sebagai kecerdasan manusia. Sistem AI boleh meniru fungsi tertentu kecerdasan dan mengatasi manusia dari segi kelajuan serta kapasiti pengiraan, tetapi ia tidak memiliki pengalaman manusia atau tubuh yang menghayati dunia. 16

Bagi Leo, melindungi kehidupan berkeluarga ialah sebahagian daripada dasar AI. Persoalannya bukan hanya sama ada sesuatu sistem itu cekap, tetapi sama ada penggunaannya menyokong hubungan dan institusi yang membentuk kebebasan, tanggungjawab serta solidariti manusia.

Perlindungan yang diminta daripada penggubal undang-undang

Cadangan Leo mengarah kepada kerangka tadbir urus AI yang berpusatkan manusia:

• Lindungi hak dan kebebasan asas. Undang-undang mesti memastikan kemajuan teknologi tidak mengorbankan maruah manusia.
• Pelihara privasi. Pengguna perlu dilindungi daripada eksploitasi dan penggunaan maklumat peribadi yang tidak wajar.
• Wajibkan ketelusan. Individu dan institusi perlu memahami bagaimana teknologi baharu digunakan serta bagaimana keputusan berimpak besar dibuat.
• Perkukuh institusi demokratik. Sistem digital sepatutnya menyokong tadbir urus awam yang bertanggungjawab, bukan memintasnya.
• Kekalkan tanggungjawab pada manusia. Keputusan yang melibatkan kehidupan dan maruah manusia tidak boleh diserahkan kepada mesin tanpa kawalan manusia yang bermakna.
• Cegah penguasaan dan pemusatan kuasa berlebihan. Tadbir urus perlu menangani risiko apabila AI canggih dikawal oleh kumpulan kecil yang berkuasa.

Langkah-langkah ini mencerminkan hujah lebih luas dalam ensiklik tersebut bahawa teknologi tidak pernah benar-benar neutral dari segi sosial. Ia boleh menggalakkan penyertaan dan keadilan, tetapi juga boleh memperhebat ketidaksamaan, kawalan dan pengecualian.

Bagaimana ucapan itu mengembangkan Magnifica Humanitas

Diterbitkan pada Mei 2026, Magnifica Humanitas memberi tumpuan kepada usaha melindungi manusia dalam era AI. Ukuran utamanya ialah sama ada teknologi kekal berorientasikan kepada manusia atau berubah menjadi alat penguasaan, pengecualian dan peperangan. Ensiklik itu menyeru agar AI “dilucutkan senjata” daripada logik yang merosakkan tersebut. 51016

Ucapan pada Ogos menterjemahkan prinsip itu kepada tanggungjawab dua kelompok utama. Pentadbir awam perlu memastikan sistem digital berkhidmat kepada rakyat dan mengekalkan pertimbangan manusia. Penggubal undang-undang pula perlu membentuk peraturan yang melindungi hak, privasi, ketelusan dan kehidupan demokratik. Para penyelidik mempunyai peranan mengenal pasti kaedah praktikal supaya teknologi digital berkhidmat kepada kehidupan dan keamanan.

Secara keseluruhan, amaran Leo bersifat pencegahan. Beliau mahu masyarakat membina peraturan berpusatkan manusia ketika sistem AI masih dibangunkan dan digunakan—bukan selepas platform yang tidak telus, kuasa yang tertumpu dan keputusan automatik menjadi terlalu kukuh untuk dicabar.

Piawaian yang dicadangkannya mudah difahami: AI harus memperluas kebaikan bersama tanpa menggantikan manusia yang bertanggungjawab untuk mentakrifkan dan mempertahankannya.