Mengapa Inggris Menolak Tombol Darurat AI untuk Model Berbahaya

Pemerintah Inggris menolak gagasan “kill switch” AI—kewenangan darurat untuk mematikan model AI berbahaya—bukan karena menganggap risikonya tidak ada. Alasan utamanya adalah batas yurisdiksi: Inggris dapat membatasi akses, model, atau pusat data yang berada dalam jangkauannya, tetapi tindakan itu tidak akan menghentikan sistem serupa dikembangkan, dihosting, atau disalahgunakan di negara lain. 1

Posisi ini memicu perdebatan yang lebih tajam. Pemerintah menyatakan sudah ada jalur intervensi untuk insiden siber serius dan aturan dapat diperketat bila perlindungan sukarela terbukti tidak memadai. Sebaliknya, pendukung kewenangan baru menilai risiko bencana membutuhkan aturan yang tegas dan dapat dipaksakan sebelum keadaan darurat benar-benar terjadi. 1617

Apa yang dimaksud “kill switch” AI?

Lord Tim Clement-Jones mengusulkan amendemen terhadap Cyber Security and Resilience Bill, sebuah rancangan undang-undang keamanan dan ketahanan siber. Usulan itu akan membentuk mekanisme hukum untuk intervensi darurat terhadap AI berbahaya: sebagai langkah terakhir, negara dapat menonaktifkan model AI atau menghentikan operasi pusat data di Inggris apabila sistem tersebut memicu ancaman keamanan atau gangguan operasional yang serius. 26

Usulan tersebut dianggap penting oleh para pendukungnya karena aturan siber yang ada terutama berfokus pada keamanan jaringan dan sistem informasi. Para pengkritik mengatakan kerangka itu belum secara jelas menciptakan pengawasan khusus bagi pengembang model AI terdepan, atau prosedur untuk menangani bahaya yang ditimbulkan oleh model otonom itu sendiri. 15

Argumen pemerintah: AI tidak bisa sekadar dimatikan dari satu negara

Penolakan Kantor Kabinet Inggris pada dasarnya bertumpu pada masalah jangkauan kekuasaan. Menurut pemerintah, Inggris “tidak bisa begitu saja mematikan AI”: memblokir akses terhadap model di dalam negeri tidak akan mencegah model tersebut dikembangkan atau disalahgunakan di luar negeri. 1

Di situlah keterbatasan praktis sebuah kewenangan pemadaman nasional. Pemerintah mungkin dapat mengganggu infrastruktur yang berada di wilayah hukumnya, tetapi tidak dapat, hanya dengan tindakan domestik, menghapus bobot model yang telah tersebar, menghentikan layanan jarak jauh di luar negeri, atau melarang pihak asing membangun kemampuan yang setara. Kewenangan seperti itu tetap dapat membantu membatasi insiden lokal, namun bukan solusi menyeluruh untuk teknologi lintas negara.

Mantan peneliti OpenAI, Daniel Kokotajlo, menyampaikan pandangan yang sejalan. Dalam pemberitaan tentang usulan tersebut, ia menilai penutupan sepihak tidak akan memadai tanpa kesepakatan internasional. Ia menganggap alat pemadaman masih lebih baik daripada tidak ada sama sekali, tetapi menilai diplomasi—khususnya kerja sama dengan Amerika Serikat—lebih penting untuk memperlambat atau mengatur pengembangan AI terdepan. 14

Mengapa pemerintah mengandalkan kewenangan siber yang sudah ada

Alternatif pemerintah bukan sekadar menunggu perusahaan bertindak sukarela. Para menteri berpendapat Cyber Security and Resilience Bill sudah menyediakan dasar untuk bertindak saat sistem jaringan atau informasi yang telah dikompromikan menimbulkan risiko keamanan nasional. Langkah itu dapat mencakup kewajiban bagi organisasi untuk menghentikan penggunaan dan mengisolasi suatu model AI. 16

Menteri AI Kanishka Narayan juga menyatakan pemerintah akan mempertimbangkan aturan yang mengikat bagi model canggih apabila perlindungan sukarela sebelum peluncuran tidak lagi cukup melindungi publik. Saat ini, AI Security Institute Inggris memperoleh akses prapeluncuran ke model dari perusahaan seperti OpenAI, Anthropic, dan Google melalui kesepakatan sukarela. 17

Dari sini terlihat perbedaan pokoknya:

• Pandangan pemerintah: kewenangan siber yang terarah, tanggung jawab pengembang, akses sukarela ke model, dan kerja sama internasional lebih realistis daripada sakelar pemutus yang hanya berlaku di Inggris.
• Pandangan para pengkritik: akses sukarela dan kewenangan siber umum tidak menggantikan mandat hukum untuk mewajibkan pengujian, memberlakukan pembatasan, atau menghentikan peluncuran saat risiko sudah tidak dapat diterima.

Isi RUU AI Security Alex Sobel

Inisiatif terpisah dari Alex Sobel, anggota parlemen Partai Buruh, melampaui kewenangan pemadaman darurat. Berdasarkan pemberitaan mengenai AI Security Bill yang ia ajukan, rancangan itu akan melarang pengembangan, penerapan, dan pengoperasian kecerdasan super buatan, terutama sistem yang tidak dapat dikendalikan manusia. 23

Pendekatannya bersifat preventif, bukan semata-mata reaktif. Alih-alih hanya mengandalkan pemadaman setelah sistem berbahaya beroperasi, RUU itu akan memberi pemerintah peran untuk memantau dan mengendalikan jalur pengembangan di seluruh rantai pasok AI, termasuk pada tingkat chip. 7

RUU tersebut juga memandang masalah ini melampaui perbatasan Inggris. Pemerintah akan diminta mengupayakan perjanjian internasional untuk mencegah kecerdasan super yang tidak terkendali—sebuah pengakuan bahwa komputasi, pengembangan model, dan penerapan AI tersebar di banyak yurisdiksi. 3

Mengapa peluang RUU itu terbatas

RUU Sobel merupakan private member’s bill, yakni rancangan undang-undang yang diajukan anggota parlemen, bukan pemerintah. Secara umum, jenis RUU ini membutuhkan dukungan pemerintah agar dapat maju. Penolakan pemerintah terhadap usulan kill switch yang berkaitan erat memberi sinyal bahwa ruang politik untuk intervensi seperti ini masih terbatas dalam waktu dekat. 21

Secara lebih luas, Inggris masih mengandalkan hukum yang sudah ada, regulator per sektor, serta kesepakatan sukarela dengan pengembang model AI terdepan—bukan satu undang-undang AI terpadu dengan kewenangan penegakan luas sebelum peluncuran. Narayan memang membuka kemungkinan regulasi lebih keras, tetapi jika pendekatan sukarela saat ini terbukti gagal. 17

Pertanyaan kebijakannya kemudian menjadi penting: seberapa banyak bukti kegagalan yang harus muncul sebelum kewenangan mengikat dibuat? Pendukung perlindungan berbasis undang-undang berpendapat bahwa menunggu kegagalan yang jelas bisa berbahaya bila risiko yang dihadapi bersifat cepat, berdampak besar, dan sulit dikendalikan.

Mengapa perdebatan risiko AI makin menguat

Usulan kill switch muncul di tengah laporan mengenai insiden keamanan AI serta kekhawatiran bahwa model dapat menghindari pagar pengaman atau dipakai untuk aktivitas siber. Bagi sebagian anggota parlemen dan pegiat keselamatan AI, laporan-laporan itu membuat kemungkinan hilangnya kendali terasa lebih nyata. 12

Perdebatan ini juga dipengaruhi perbedaan pendekatan regulasi. Uni Eropa telah mengadopsi AI Act, sedangkan Inggris memilih model yang lebih ringan dan berbasis sektor, ditopang pengujian sukarela terhadap sistem AI terdepan sebelum peluncuran. 17

Tidak satu pun pendekatan itu, sendirian, menyelesaikan masalah koordinasi internasional. Sistem berkemampuan tinggi dapat dilatih, dihosting, disalin, atau diterapkan melintasi perbatasan. Namun sengketa soal kill switch menyoroti persoalan yang lebih mendesak: apakah Inggris perlu memiliki kewenangan hukum yang eksplisit untuk bertindak sebelum kerja sama sukarela atau kewenangan siber yang ada benar-benar diuji dalam krisis.

Pilihan kebijakan yang sesungguhnya

Perdebatan ini bukan semata-mata soal apakah pemerintah harus memiliki tombol untuk ditekan. Yang dipertaruhkan adalah urutan dan cakupan pengendalian:

1. Pencegahan: pengawasan atas komputasi, chip, pelatihan, pengujian, dan penerapan sebelum sistem dirilis.
2. Intervensi: kewenangan yang jelas untuk mengisolasi atau menghentikan sistem yang menimbulkan risiko keamanan akut.
3. Koordinasi internasional: kesepakatan yang membatasi celah antarnegara dan membuat perlindungan domestik lebih efektif.

Pemerintah Inggris menolak kill switch nasional yang berdiri sendiri karena menganggapnya tidak memadai untuk menghadapi ancaman global. Para pengkritik menerima keterbatasan itu, tetapi menarik kesimpulan sebaliknya: Inggris perlu menggabungkan kewenangan hukum domestik dengan kerja sama internasional, bukan memperlakukan salah satunya sebagai pengganti yang lain. 1316