Anthropic dan Vatikan Sepakat soal AI: Mengapa Jeda Global untuk Pengembangan Kecerdasan Buatan Frontier Sangat Mendesak

Peringatan Anthropic: Risiko Peningkatan Diri Secara Rekursif

Laporan Anthropic, yang ditulis oleh peneliti Marina Favaro dan Jack Clark, menyajikan gambaran nyata tentang seberapa cepat kemampuan AI berakselerasi. Perusahaan tersebut melaporkan bahwa pada Mei 2026, Claude menulis lebih dari 80% kode yang digabungkan ke dalam basis kode Anthropic, dan teknisi pada umumnya kini menggabungkan kode sekitar delapan kali lebih banyak per hari dibandingkan tahun 2024 . Para penulis memperingatkan bahwa lintasan ini menuju ke arah peningkatan diri secara rekursif, sebuah proses di mana sistem AI secara otonom mendesain, membangun, dan melatih penerus mereka sendiri tanpa manusia yang mendorong setiap langkah .

Perusahaan mengatakan bahwa mereka belum mencapai titik itu, dan hasilnya belum pasti, tetapi kemudian menambahkan peringatan serius: "Hal itu bisa tiba lebih cepat dari yang disiapkan oleh sebagian besar institusi" .

Kekhawatiran Utama

• Hilangnya pengawasan manusia. Kekhawatiran utama Anthropic adalah bahwa kemajuan AI mungkin melampaui kerangka kerja keselamatan dan tata kelola yang ada, sehingga pengawasan manusia menjadi kendala utama pada kemajuan teknologi . Perusahaan memperingatkan bahwa manusia berisiko kehilangan kendali sepenuhnya jika pengembangan terus berlanjut tanpa pengawasan .
• 'Pedal rem' untuk industri. Anthropic membingkai seruannya untuk jeda sebagai pembangunan "pedal rem" bagi industri—sebuah opsi untuk memperlambat atau menghentikan sementara pengembangan AI frontier untuk memberi kesempatan pada struktur masyarakat dan riset penyelarasan (alignment) agar dapat mengimbangi . Clark mengatakan kepada BBC Newsnight, "Anda ingin memiliki opsi untuk bisa mengangkat kaki dari pedal gas dan menginjak rem" .
• Bersyarat, bukan sepihak. Anthropic mengatakan akan mendukung jeda hanya jika pengembang terkemuka lainnya ikut serta dan kepatuhannya dapat diverifikasi secara independen . Perusahaan mencatat bahwa jika perlambatan hanya memungkinkan entitas yang kurang hati-hati untuk mengejar ketertinggalan, pada akhirnya hal itu bisa membahayakan keselamatan semua orang .
• Keterlibatan pembuat kebijakan. Sementara itu, perusahaan mengumumkan rencana untuk mengumpulkan para pembuat kebijakan guna membahas bahaya AI tingkat lanjut .

Ensiklik Vatikan Magnifica Humanitas: Kerangka Moral untuk AI

Dirilis pada 25 Mei 2026, Magnifica Humanitas terdiri dari sekitar 43.000 kata dan berpusat pada "melindungi pribadi manusia di era kecerdasan buatan" . Dokumen ini secara eksplisit memperbarui ensiklik Rerum Novarum tahun 1891 dari Paus Leo XIII—yang membahas tentang perburuhan di era industrial—dan menerapkan logikanya ke platform digital, algoritma, otomatisasi, dan konsentrasi data .

Poin-poin Penting yang Sejalan dengan Peringatan Anthropic

• Seruan untuk regulasi yang kuat. Paus mendesak pengawasan ketat terhadap AI dan memperingatkan bahwa perusahaan teknologi besar (Big Tech) dan para pemimpinnya bisa mengumpulkan kekuasaan yang akan mereka salahgunakan demi keuntungan . Paus Leo berpendapat bahwa penyedia AI harus mempertimbangkan etika dari tindakan mereka, dengan menyatakan, "Agar AI menghormati martabat manusia dan benar-benar melayani kebaikan bersama, diperlukan regulasi yang kuat" .
• Peringatan terhadap otonomi yang tidak terkendali. Ensiklik tersebut memperingatkan perusahaan AI agar tidak membangun "Menara Babel baru"—sebuah paralel moral dengan kekhawatiran Anthropic tentang sistem yang lepas dari kendali manusia . Dokumen itu membandingkan masa depan AI yang mengesampingkan Tuhan dengan kisah alkitabiah, serta memperingatkan kesombongan manusia .
• Martabat manusia sebagai standar. Magnifica Humanitas berpendapat bahwa AI harus melayani kebaikan bersama dan pengembangan manusia, bukan semata-mata didorong oleh akselerasi yang kompetitif . Kalimat sentral dari ensiklik itu berbunyi: "Kecerdasan buatan sekarang harus dilucuti, dibebaskan dari kerangka kerja yang mengubahnya menjadi alat kontrol, eksklusi, dan penghancuran" .
• Seruan untuk langkah yang lebih lambat. Paus Leo menulis bahwa menyerukan kehati-hatian, evaluasi yang ketat, dan bahkan, kadang-kadang, langkah yang lebih lambat dalam mengadopsi AI bukan berarti menentang kemajuan; sebaliknya, itu adalah "latihan tanggung jawab untuk merawat keluarga manusia" .

Kolaborasi Langsung Antara Anthropic dan Vatikan

Keselarasan antara kedua institusi ini melampaui peringatan paralel. Dalam sebuah kerja sama institusional yang langka, salah satu pendiri Anthropic, Chris Olah, berbicara pada presentasi Magnifica Humanitas di Vatikan pada 25 Mei 2026, menyoroti hubungan unik antara laboratorium AI dan Takhta Suci . Kemunculan ini menandakan aliansi yang langka karena kedua pihak menyerukan pengawasan moral yang lebih kuat terhadap kecerdasan buatan .

Hubungan antara kedua pihak sudah terjalin sebelumnya. Sebelumnya, Anthropic telah berkonsultasi dengan para pemikir Katolik saat mengembangkan "Konstitusi Claude," kerangka etika sepanjang 23.000 kata yang memandu model AI mereka . Pastor Brendan McGuire, seorang imam dan mantan eksekutif Silicon Valley, membantu membentuk konstitusi itu dan mencatat bahwa Magnifica Humanitas telah membuka pintu untuk dialog yang lebih dalam antara Gereja dan industri teknologi .

Kurang dari dua minggu setelah ensiklik dirilis, para pakar AI Katolik secara terbuka memuji seruan jeda dari Anthropic, dengan mencatat bahwa hal itu "menggemakan kekhawatiran terkini Paus Leo XIV" dan memuji perusahaan tersebut karena menguji nilai-nilai terhadap perkembangan yang cepat . Para teolog moral Katolik sebelumnya juga telah mengajukan amicus brief (surat pendukung) yang mendukung Anthropic dalam sengketa dengan Pentagon, terkait penolakan perusahaan tersebut untuk mengizinkan sistem AI-nya digunakan untuk pengawasan massal atau senjata otonom .

Tesis Bersama dan Kekuatan yang Saling Melengkapi

Baik Anthropic maupun Vatikan bertemu pada satu tesis sentral: pengembangan AI frontier berakselerasi lebih cepat daripada kemampuan tata kelola dan etika untuk beradaptasi, dan jeda atau perlambatan yang disengaja diperlukan untuk mempertahankan pengawasan, martabat, dan kebaikan bersama manusia. Kontribusi Gereja menambahkan kerangka moral dan teologis yang kuat—berakar pada martabat manusia, kebaikan bersama, dan perlindungan bagi yang rentan—yang melengkapi pemikiran teknis dan keamanan dari Anthropic .

Seperti yang dikatakan oleh seorang pengamat, kedua institusi berpendapat bahwa "masyarakat mungkin kesulitan mengimbangi kemajuan teknologi yang pesat" dan bahwa perlambatan "kemungkinan adalah hal yang baik"—asalkan itu terkoordinasi, dapat diverifikasi, dan bukan sekadar alat bagi pesaing yang kurang hati-hati untuk mendapatkan keuntungan .