Usulan Demis Hassabis tentang Pengawas AI Global dan Kewenangan Menghentikan Model Berbahaya

Usulan Demis Hassabis bukan sekadar seruan agar perusahaan AI lebih berhati-hati. CEO Google DeepMind itu mendorong pembentukan sebuah badan teknis internasional—didukung laboratorium AI terkemuka—yang dapat menilai model AI paling canggih sebelum dirilis dan menunda peluncuran jika risikonya dianggap tidak dapat diterima ^AN.

Gagasan tersebut disampaikan dalam pertemuan tertutup para pemimpin G7 dan eksekutif teknologi di Évian-les-Bains, Prancis, pada Juni 2026. Hassabis menyampaikannya bersama CEO Anthropic Dario Amodei. Namun, ada perbedaan penting antara usulan tersebut dan hasil pertemuan G7: para pemimpin G7 tidak menyetujui kewenangan untuk menghentikan model AI ^AG.

Apa yang diusulkan Hassabis?

Hassabis menggambarkan badan tersebut sebagai “badan standar teknis yang didukung laboratorium terkemuka”—institusi yang bertujuan meningkatkan kepercayaan publik melalui penilaian terpadu terhadap sistem AI terdepan sebelum digunakan secara luas ^AN.

Dalam konsepnya, badan ini akan bersifat internasional tetapi dipimpin Amerika Serikat. Standarnya dapat diperbarui setiap kuartal agar menyesuaikan dengan risiko baru yang muncul seiring perkembangan teknologi ^N. Fungsi paling kuatnya adalah melakukan pemeriksaan sebelum peluncuran dan memiliki opsi untuk menunda model yang dianggap membahayakan.

Usulan Amodei berjalan beriringan, tetapi memiliki penekanan geopolitik yang lebih jelas. Ia menyerukan koalisi negara-negara demokratis yang dipimpin AS untuk mengendalikan akses terhadap teknologi AI tingkat lanjut dan “mengisolasi musuh bersama”, termasuk China ^AN.

Menurut analisis Brookings Institution, salah satu tujuan utama usulan perusahaan-perusahaan tersebut adalah mengatasi perbedaan pengawasan AI antarnegara. Saat ini, setiap negara atau kawasan dapat menggunakan standar evaluasi yang berbeda, sehingga pengembang menghadapi sistem pengawasan yang terpecah-pecah ^B.

Apa yang terjadi di KTT G7 Évian?

KTT Pemimpin G7 ke-52 berlangsung di Évian-les-Bains pada 16–17 Juni 2026 ^ANI. Dalam jamuan kerja khusus mengenai “penerapan AI yang aman, cepat, dan efisien”, Hassabis dan Amodei bergabung dengan CEO OpenAI Sam Altman, pemimpin perusahaan AI Prancis Mistral, Presiden Donald Trump, serta para pemimpin G7 ^L.

Pertemuan ini menunjukkan bahwa tata kelola AI telah bergeser dari sekadar prinsip umum menuju ruang pengambilan keputusan yang mempertemukan kekuatan politik, strategi industri, dan pengembangan model AI terdepan ^L.

Namun, G7 tidak mengadopsi mekanisme penghentian model yang diusulkan Hassabis. KTT tersebut menghasilkan sembilan deklarasi, termasuk:

• skema Trusted Partners, yang dirancang untuk memberi negara-negara sekutu akses terhadap model AI canggih AS yang saat ini dibatasi oleh kontrol ekspor; dan
• Roadmap to Secure Digital Space for Minors, yang berfokus pada perlindungan anak di ruang digital ^EA.

Sebelumnya, para menteri digital G7 juga telah menyepakati deklarasi pada 29 Mei 2026 mengenai keselamatan AI, adopsi teknologi, dan ketahanan digital. Namun, deklarasi itu tidak memberikan kewenangan yang dapat memaksa penghentian model AI ^GE.

Dengan demikian, hasil KTT Évian memperlihatkan adanya kemauan untuk memperkuat koordinasi, tetapi belum ada konsensus politik untuk membentuk pengawas AI global dengan kewenangan penegakan yang nyata ^AGB.

Mengapa Hassabis terus menyerukan koordinasi internasional?

Dalam dua penampilan di Stanford pada Mei dan Juni 2026, Hassabis membangun argumen bahwa perkembangan AI berada pada titik yang jauh lebih besar daripada sekadar perubahan teknologi biasa.

Dalam diskusi bersama Presiden Stanford Jonathan Levin pada Mei, ia menyebut era AI sebagai “transisi pada tingkat spesies” yang membutuhkan kerja sama global. Ia juga memperingatkan bahwa umat manusia memiliki “ruang kesalahan yang sangat kecil” dalam satu dekade mendatang ^S.

Dalam acara Stanford Graduate School of Business pada 18 Juni, Hassabis mengatakan dunia sedang berada di “kaki bukit singularitas” dan bahwa membangun kecerdasan umum buatan atau AGI secara aman merupakan tantangan terpenting pada zaman ini ^GS.

Pernyataan-pernyataan tersebut menjadi bagian dari kampanye publik Hassabis sepanjang 2026, yang juga mencakup forum Davos, Google I/O, dan India AI Impact Summit ^IYBB. Inti pesannya konsisten: kemampuan AI berkembang cepat, sementara lembaga publik dan aturan keselamatan belum tentu mampu mengejar kecepatannya.

Perintah eksekutif Trump: langkah awal, tetapi masih sukarela

Pada 2 Juni 2026, sekitar dua minggu sebelum KTT G7, Presiden Trump menandatangani Executive Order 14409 berjudul “Promoting Advanced Artificial Intelligence Innovation and Security” ^WN.

Perintah tersebut meminta pengembang AI untuk secara sukarela menyerahkan model terdepan mereka kepada pemerintah federal untuk ditinjau dari sisi keamanan nasional. Pemerintah dapat menggunakan waktu hingga 30 hari untuk menilai risiko sebelum model dirilis ke publik ^WN.

Perbedaannya dengan usulan Hassabis cukup mendasar:

• cakupan perintah Trump bersifat nasional, bukan global;
• partisipasi perusahaan bersifat sukarela, bukan wajib; dan
• perintah tersebut tidak memberikan kewenangan umum kepada pemerintah untuk menghentikan peluncuran model.

Gedung Putih menyebut kebijakan ini sebagai pergeseran dari pendekatan yang sepenuhnya membiarkan industri bergerak sendiri menuju penyaringan risiko yang lebih proaktif ^N. Perintah itu juga mengarahkan pembentukan AI cybersecurity clearinghouse serta penegakan hukum pidana yang sudah ada terhadap serangan siber berbantuan AI ^SLU.

Namun, sejumlah pengamat menilai perintah tersebut tetap jauh dari kewajiban evaluasi keselamatan dan uji keamanan siber yang mengikat bagi produk AI canggih ^U.

Bagaimana posisi panel ilmiah independen PBB?

PBB mengembangkan Independent International Scientific Panel on AI (IISP-AI), yang dirancang dengan model serupa Panel Antarpemerintah tentang Perubahan Iklim atau IPCC. Tujuannya adalah menghasilkan penilaian ilmiah yang berwenang mengenai kemampuan dan risiko AI.

Peran panel ini berbeda dari badan yang dibayangkan Hassabis. IISP-AI dirancang sebagai lembaga penasihat berbasis sains, bukan regulator yang dapat memberikan veto atau menghentikan peluncuran model. Temuannya dapat membantu pemerintah menyusun kebijakan, tetapi tidak secara langsung memiliki kewenangan operasional untuk menahan sebuah model.

Perbedaan ini menjadi salah satu titik penting dalam perdebatan tata kelola AI: model PBB lebih inklusif dan multilateral, sedangkan usulan Hassabis lebih teknis, dipimpin AS, dan berpotensi memiliki kewenangan penegakan.

Badan pelengkap atau pesaing kerangka yang sudah ada?

Sampai sekarang, belum ada jawaban yang disepakati. Perdebatan utamanya terbagi menjadi dua pandangan.

Alasan badan tersebut dapat melengkapi sistem yang ada

Badan yang diusulkan Hassabis dapat berfungsi sebagai lapisan teknis bersama bagi berbagai kerangka nasional dan internasional. Standar evaluasinya mungkin dapat dijadikan rujukan oleh:

• skema Trusted Partners G7;
• Undang-Undang AI Uni Eropa; dan
• panel ilmiah PBB.

Dalam skenario ini, badan tersebut tidak menggantikan lembaga yang sudah ada. Ia menyediakan tolok ukur teknis yang seragam untuk mengurangi perbedaan pengawasan antarnegara—masalah yang menurut Brookings menjadi salah satu alasan utama usulan tersebut ^B.

Risiko badan tersebut justru bersaing dengan PBB

Sebaliknya, badan yang dipimpin AS dan memiliki kewenangan menghentikan model dapat dianggap menduplikasi atau bahkan melemahkan pendekatan PBB yang lebih multilateral. Koalisi yang hanya beranggotakan negara-negara demokratis juga berisiko menciptakan sistem tata kelola dua tingkat dan memberi laboratorium AI berbasis AS pengaruh besar dalam menentukan apa yang dianggap “berbahaya” ^A.

Ada pula persoalan geopolitik. Seruan untuk mengendalikan akses teknologi dan mengisolasi negara tertentu dapat membuat tata kelola keselamatan AI bercampur dengan persaingan strategis AS–China ^AN. Alih-alih membentuk standar universal, langkah tersebut bisa mendorong terbentuknya blok teknologi yang saling bersaing.

Hasil KTT G7 memperkuat kesan bahwa negara-negara belum siap memberikan kewenangan penghentian yang berlaku secara universal. Yang muncul adalah skema kerja sama dan akses bagi mitra tepercaya, bukan mekanisme jeda global ^EAB.

Kesimpulan

Usulan Hassabis merupakan salah satu dorongan paling konkret dari level CEO untuk membentuk badan pemeriksa AI sebelum peluncuran, dengan kewenangan yang lebih kuat daripada pedoman sukarela atau panel penasihat biasa. Namun, usulan itu belum menjadi keputusan G7.

Lanskap tata kelola AI saat ini masih terfragmentasi: perintah eksekutif Trump mengandalkan partisipasi sukarela, deklarasi G7 menekankan kerja sama, dan panel PBB berfokus pada konsensus ilmiah. Pertanyaan mendasarnya masih terbuka: siapa yang berhak menghentikan sebuah model, berdasarkan standar apa, dan bagaimana mencegah pengawas AI global berubah menjadi alat persaingan geopolitik?

Untuk saat ini, belum ada kesepakatan mengenai cara menyeimbangkan kecepatan inovasi, keselamatan publik, kedaulatan negara, dan kebutuhan akan aturan AI yang benar-benar berlaku lintas batas.