Anthropic dan Vatican Bergabung Suara: Seruan Moratorium Pembangunan AI Peringkat Global

Syarikat-syarikat AI terkemuka dunia kini berlumba membina sistem yang semakin hebat, namun satu pakatan yang jarang berlaku—antara makmal AI utama dan Gereja Katolik—kini menuntut agar pembangunan itu diperlahankan dengan sengaja. Pada 4 Jun 2026, Anthropic—syarikat di sebalik pembantu AI Claude—menerbitkan laporan bertajuk "When AI builds itself" (Apabila AI Membina Dirinya Sendiri), yang mencadangkan moratorium global yang diselaraskan atau pengurangan bermakna dalam pembangunan AI termaju . Amaran ini berpusat pada senario yang dipanggil recursive self-improvement (penambahbaikan kendiri secara rekursif), iaitu apabila sesebuah sistem AI menjadi cukup pintar untuk mereka bentuk, membina, dan melatih penggantinya sendiri secara autonomi, yang berpotensi terlepas daripada pengawasan manusia .

Hanya sepuluh hari sebelumnya, pada 25 Mei 2026, Paus Leo XIV mengeluarkan ensiklik pertamanya, Magnifica Humanitas ("Kemanusiaan yang Agung"), dokumen ajaran kepausan pertama dalam sejarah yang dikhaskan sepenuhnya untuk kecerdasan buatan . Walaupun kedua-dua institusi ini datang dari dunia yang sangat berbeza—satu berakar umbi dalam teknologi dan penyelidikan keselamatan, satu lagi dalam teologi dan falsafah moral—mesej teras mereka sangat serupa: AI termaju berkembang lebih pantas daripada keupayaan tadbir urus dan etika untuk menyesuaikan diri, dan jeda diperlukan untuk melindungi kemanusiaan .

Amaran Anthropic: Risiko Penambahbaikan Kendiri Secara Rekursif

Laporan Anthropic, yang dikarang oleh penyelidik Marina Favaro dan Jack Clark, memberikan gambaran jelas tentang betapa pantas keupayaan AI semakin memecut. Syarikat itu melaporkan bahawa setakat Mei 2026, Claude menulis lebih daripada 80% kod yang digabungkan ke dalam pangkalan kod Anthropic, dan jurutera biasa kini menggabungkan kira-kira lapan kali ganda lebih banyak kod setiap hari berbanding tahun 2024 . Penulis memberi amaran bahawa trajektori ini sedang menuju ke arah recursive self-improvement, satu proses di mana sistem AI mereka bentuk, membina, dan melatih pengganti mereka sendiri secara autonomi .

Syarikat itu menyatakan bahawa ia belum lagi mencapai tahap itu, dan bahawa hasilnya tidak semestinya begitu, tetapi kemudian menambah satu kaveat yang merisaukan: "Ia mungkin tiba lebih awal daripada kebanyakan institusi bersedia" .

Kebimbangan Utama

• Kehilangan pengawasan manusia. Kebimbangan utama Anthropic ialah kemajuan AI mungkin mengatasi rangka kerja keselamatan dan tadbir urus sedia ada, menjadikan pengawasan manusia sebagai kekangan utama ke atas kemajuan teknologi . Syarikat itu memberi amaran bahawa manusia berisiko hilang kawalan sepenuhnya jika pembangunan diteruskan tanpa kawalan .
• 'Pedal brek' untuk industri. Anthropic membingkaikan seruannya untuk jeda sebagai membina "pedal brek" untuk industri—pilihan untuk memperlahankan atau menghentikan sementara pembangunan AI termaju bagi membolehkan struktur masyarakat dan penyelidikan penjajaran (alignment) mengejar . Clark memberitahu BBC Newsnight, "Anda mahu pilihan untuk dapat mengangkat kaki dari pemecut dan meletakkan kaki pada brek" .
• Bersyarat, bukan unilateral. Anthropic menyatakan ia akan menyokong jeda hanya jika pemaju terkemuka lain turut serta dan pematuhan boleh disahkan secara bebas . Syarikat itu menyatakan bahawa jika kelembapan hanya membolehkan entiti yang kurang berhati-hati mengejar, ia akhirnya boleh menjejaskan keselamatan untuk semua orang .
• Libat urus penggubal dasar. Sementara itu, syarikat itu mengumumkan rancangan untuk mengumpulkan penggubal dasar bagi menangani bahaya AI termaju .

Ensiklik Vatican Magnifica Humanitas: Rangka Kerja Moral untuk AI

Dikeluarkan pada 25 Mei 2026, Magnifica Humanitas mengandungi kira-kira 43,000 patah perkataan dan berpusat pada "menjaga manusia dalam era kecerdasan buatan" . Dokumen ini secara jelas mengemas kini ensiklik Rerum Novarum Leo XIII (1891)—yang membincangkan buruh era perindustrian—dan menggunakan logiknya pada platform digital, algoritma, automasi, dan penumpuan data .

Persamaan Utama dengan Amaran Anthropic

• Seruan untuk kawal selia yang mantap. Paus menggesa pengawasan ketat ke atas AI dan memberi amaran bahawa Big Tech dan pemimpinnya boleh mengumpul kuasa yang akan mereka salahgunakan untuk keuntungan . Paus Leo berhujah bahawa penyedia AI mesti mempertimbangkan etika tindakan mereka, dengan mengisytiharkan, "Untuk AI menghormati maruah manusia dan benar-benar berkhidmat untuk kebaikan bersama, ia memerlukan kawal selia yang kuat" .
• Amaran terhadap autonomi tanpa kawalan. Ensiklik itu memberi amaran kepada syarikat AI supaya tidak membina "Menara Babel yang baharu"—satu persamaan moral dengan kebimbangan Anthropic tentang sistem yang terlepas daripada kawalan manusia . Dokumen itu membandingkan masa depan AI yang mengecualikan Tuhan dengan kisah alkitabiah, memberi amaran terhadap keangkuhan manusia .
• Maruah manusia sebagai standard. Magnifica Humanitas berhujah bahawa AI mesti berkhidmat untuk kebaikan bersama dan kesejahteraan manusia, tidak semata-mata didorong oleh pecutan persaingan . Ayat utama ensiklik itu berbunyi: "Kecerdasan buatan kini mesti dilucutkan senjata, dibebaskan daripada rangka kerja yang mengubahnya menjadi alat kawalan, pengecualian, dan kemusnahan" .
• Seruan untuk rentak yang lebih perlahan. Paus Leo menulis, "Menyeru kepada kebijaksanaan, penilaian yang teliti, dan kadangkala, rentak yang lebih perlahan dalam menerima pakai AI tidak bermakna menentang kemajuan; sebaliknya, ia adalah latihan tanggungjawab yang prihatin terhadap keluarga manusia" .

Kerjasama Langsung antara Anthropic dan Vatican

Penjajaran antara kedua-dua institusi ini melangkaui amaran selari. Dalam satu pertunjukan kerjasama institusi yang jarang berlaku, pengasas bersama Anthropic, Chris Olah, bercakap pada majlis pelancaran Magnifica Humanitas di Vatican pada 25 Mei 2026, menonjolkan hubungan unik antara makmal AI dan Takhta Suci . Kemunculan itu menandakan pakatan yang jarang berlaku apabila kedua-dua pihak menyeru penelitian moral yang lebih kuat terhadap kecerdasan buatan .

Hubungan antara kedua-dua pihak sebenarnya sudah wujud. Anthropic sebelum ini telah berunding dengan pemikir Katolik semasa membangunkan "Perlembagaan Claude," rangka kerja etika sepanjang 23,000 patah perkataan yang membimbing model AInya . Paderi Brendan McGuire, seorang paderi dan bekas eksekutif Silicon Valley, membantu membentuk perlembagaan itu dan menyatakan bahawa Magnifica Humanitas telah membuka pintu untuk perbualan yang lebih mendalam antara Gereja dan industri teknologi .

Kurang daripada dua minggu selepas ensiklik itu dikeluarkan, pakar AI Katolik secara terbuka memuji seruan jeda Anthropic, menyatakan bahawa ia "menggemakan kebimbangan terbaru Pope Leo XIV" dan memuji syarikat itu kerana menyemak nilai-nilai berbanding pembangunan pesat . Ahli teologi moral Katolik sebelum ini juga telah memfailkan ringkas amicus (sahabat mahkamah) menyokong Anthropic dalam pertikaian Pentagon berhubung keengganan syarikat itu membenarkan sistem AInya digunakan untuk pengawasan besar-besaran atau senjata autonomi .

Tesis Bersama dan Kekuatan Pelengkap

Kedua-dua Anthropic dan Vatican berkumpul pada tesis pusat: pembangunan AI termaju memecut lebih pantas daripada keupayaan tadbir urus dan etika untuk menyesuaikan diri, dan jeda atau kelembapan yang disengajakan diperlukan untuk memelihara pengawasan, maruah, dan kebaikan bersama manusia. Sumbangan Gereja menambah rangka kerja moral dan teologi yang mantap—berakar umbi dalam maruah manusia, kebaikan bersama, dan perlindungan golongan yang rentan—yang melengkapi penaakulan teknikal dan keselamatan Anthropic .

Seperti yang diperhatikan oleh seorang pemerhati, kedua-dua institusi berhujah bahawa "masyarakat mungkin sukar untuk mengikuti rentak kemajuan teknologi yang pesat" dan bahawa kelembapan "mungkin merupakan perkara yang baik"—dengan syarat ia diselaraskan, boleh disahkan, dan bukan sekadar alat untuk pesaing yang kurang berhati-hati untuk mendapat kelebihan .