Mengapa UK Menolak ‘Suis Kecemasan’ AI bagi Model Berbahaya

Kerajaan United Kingdom (UK) menolak cadangan “suis kecemasan” AI bukan kerana ia menafikan risiko daripada model berbahaya. Hujah utamanya ialah kuasa yang terhad kepada UK tidak akan lengkap: menutup akses, model atau pusat data dalam negara tidak menghalang sistem seumpamanya dibangunkan, dihoskan atau disalah guna di tempat lain. 1

Pendirian itu mencetuskan pertikaian dasar yang lebih jelas. Menteri berpendapat kerajaan sudah mempunyai laluan untuk campur tangan dalam insiden siber serius, dan boleh memperketat peraturan jika perlindungan sukarela gagal. Penyokong kuasa baharu pula berkata perancangan bagi risiko bencana memerlukan kawalan yang nyata dan boleh dikuatkuasakan sebelum kecemasan berlaku. 1617

Apa yang dicadangkan oleh “suis kecemasan” itu

Lord Tim Clement-Jones mencadangkan pindaan kepada Cyber Security and Resilience Bill untuk mewujudkan mekanisme undang-undang bagi campur tangan kecemasan terhadap AI berbahaya. Ia dibayangkan sebagai kuasa pilihan terakhir untuk menyahaktifkan model AI atau menutup operasi pusat data di UK apabila sistem itu menimbulkan ancaman keselamatan atau operasi yang serius. 26

Cadangan ini penting kerana peraturan siber sedia ada terutama sekali menyasarkan keselamatan rangkaian dan sistem maklumat. Pengkritik berpendapat peraturan tersebut tidak menyediakan rangka kerja khusus yang jelas untuk menyelia pembangun model hadapan (frontier models) atau bertindak balas terhadap risiko daripada model autonomi itu sendiri. 15

Hujah kerajaan: Britain tidak boleh sekadar “mematikan” AI

Bantahan Pejabat Kabinet UK pada asasnya berkaitan bidang kuasa. Menurutnya, UK “tidak boleh sekadar mematikan AI”: menyekat akses di Britain tidak akan menghalang model berkeupayaan tinggi daripada dibina atau dieksploitasi di negara lain. 1

Itulah juga kelemahan praktikal kuasa penutupan peringkat negara. Ia mungkin boleh mengganggu infrastruktur dalam lingkungan kuasa UK, tetapi tidak boleh dengan sendirinya menghapuskan pemberat model (model weights), menghentikan perkhidmatan jauh di luar negara atau menghalang pihak asing membangunkan keupayaan yang setara. Kuasa domestik masih boleh membantu membendung insiden tempatan, tetapi ia bukan jawapan menyeluruh kepada teknologi yang bersifat rentas negara.

Bekas penyelidik OpenAI, Daniel Kokotajlo, mengemukakan hujah yang seiring dalam laporan mengenai cadangan itu: penutupan secara unilateral tidak memadai tanpa persetujuan antarabangsa. Beliau menyifatkan alat sedemikian lebih baik daripada tiada langsung, tetapi menegaskan diplomasi—terutamanya libat urus dengan Amerika Syarikat—lebih penting untuk memperlahankan atau mentadbir pembangunan AI hadapan. 14

Mengapa menteri merujuk kuasa siber sedia ada

Pilihan kerajaan bukan semata-mata menunggu syarikat bertindak. Menteri berkata Cyber Security and Resilience Bill sudah menyediakan asas untuk campur tangan apabila rangkaian atau sistem maklumat yang terjejas menimbulkan risiko keselamatan negara. Ini termasuk langkah yang boleh menghendaki organisasi berhenti menggunakan dan mengasingkan model AI. 16

Menteri AI, Kanishka Narayan, turut menyatakan kerajaan akan mempertimbangkan peraturan mengikat bagi model canggih jika perlindungan sukarela sebelum pelancaran tidak lagi melindungi orang ramai. Ketika ini, AI Security Institute Britain menerima akses sebelum pelancaran kepada model daripada syarikat seperti OpenAI, Anthropic dan Google menerusi perjanjian sukarela. 17

Di sinilah terletaknya perbezaan utama:

• Pandangan kerajaan: kuasa siber yang disasarkan, tanggungjawab pembangun, akses sukarela kepada model dan kerjasama antarabangsa lebih boleh dilaksanakan berbanding satu suis pemutus yang hanya terpakai di UK.
• Pandangan pengkritik: akses sukarela dan kuasa siber umum bukan pengganti kepada kuasa statutori untuk mewajibkan ujian, mengenakan sekatan atau menghentikan pelancaran apabila risiko tidak lagi boleh diterima.

Apa yang dicadangkan dalam Rang Undang-Undang Keselamatan AI Alex Sobel

Inisiatif berasingan oleh Ahli Parlimen Buruh Alex Sobel melangkaui kuasa penutupan kecemasan. Laporan mengenai Rang Undang-Undang Keselamatan AI yang dicadangkannya menyatakan ia akan melarang pembangunan, pelancaran dan pengoperasian superkecerdasan buatan, terutama sistem yang tidak dapat dikawal oleh manusia. 23

Pendekatannya ialah pencegahan, bukannya sekadar tindak balas selepas bahaya berlaku. Selain bertumpu pada penutupan selepas sistem berbahaya beroperasi, rang undang-undang itu akan memberi peranan kepada kerajaan untuk memantau serta mengawal laluan pembangunan di seluruh rantaian bekalan AI, termasuk pada peringkat cip. 7

Cadangan itu juga mengiktiraf isu di luar sempadan Britain. Ia menghendaki kerajaan berusaha mendapatkan perjanjian antarabangsa untuk mencegah superkecerdasan yang tidak terkawal—kerana sumber pengkomputeran, pembangunan model dan pelancarannya tersebar merentasi pelbagai bidang kuasa. 3

Mengapa laluan rang undang-undang ini sukar

Usul Sobel ialah rang undang-undang ahli persendirian. Lazimnya, rang undang-undang seperti ini memerlukan sokongan kerajaan untuk bergerak maju; penolakan kerajaan terhadap cadangan suis kecemasan yang berkaitan memberi isyarat bahawa selera politik untuk campur tangan sebegini masih terhad dalam masa terdekat. 21

Secara lebih luas, UK masih bergantung pada undang-undang sedia ada, pengawal selia mengikut sektor dan pengaturan sukarela bagi model hadapan, bukannya satu akta AI tunggal dengan kuasa penguatkuasaan luas sebelum pelancaran. Narayan tidak menutup pintu kepada peraturan lebih ketat, tetapi meletakkannya sebagai pilihan jika pendekatan sukarela semasa terbukti tidak mencukupi. 17

Ini menimbulkan soalan dasar yang penting: berapa banyak bukti kegagalan diperlukan sebelum kuasa mengikat diwujudkan? Penyokong perlindungan statutori berhujah bahawa menunggu kegagalan yang jelas mungkin berbahaya jika ancamannya ialah kejadian berimpak tinggi yang bergerak pantas.

Mengapa perbahasan risiko AI semakin hangat

Cadangan suis kecemasan timbul ketika terdapat laporan insiden keselamatan AI dan kebimbangan bahawa model boleh mengelak pagar pengawal (guardrails) atau disalah guna untuk aktiviti siber. Laporan ini menjadikan kemungkinan hilang kawalan lebih nyata bagi sesetengah penggubal undang-undang dan penyokong keselamatan AI. 12

Perbahasan itu juga dipengaruhi perbezaan pendekatan kawal selia. Kesatuan Eropah (EU) telah menerima pakai Akta AI, manakala UK memilih pendekatan yang lebih ringan dan berpaksikan sektor, disokong oleh ujian sukarela sebelum pelancaran bagi sistem AI hadapan. 17

Kedua-dua pendekatan tidak menyelesaikan masalah penyelarasan antarabangsa dengan sendiri. Sistem berkeupayaan tinggi boleh dilatih, dihoskan, disalin atau digunakan merentas sempadan. Namun, pertikaian mengenai suis kecemasan mengetengahkan isu yang lebih segera: sama ada Britain perlu mewujudkan kuasa undang-undang yang jelas untuk campur tangan sebelum kerjasama sukarela atau kuasa siber sedia ada benar-benar diuji dalam krisis.

Pilihan dasar yang sebenar

Pertikaian ini bukan sekadar tentang sama ada kerajaan patut mempunyai butang untuk ditekan. Ia melibatkan turutan dan skop kawalan:

1. Pencegahan: pengawasan terhadap pengkomputeran, cip, latihan, pengujian dan pelancaran sebelum sistem dibuka kepada umum.
2. Campur tangan: kuasa yang jelas untuk mengasingkan atau menghentikan sistem yang menimbulkan risiko keselamatan akut.
3. Penyelarasan antarabangsa: perjanjian yang mengehadkan peluang mengelak peraturan melalui negara lain dan menjadikan perlindungan domestik lebih berkesan.

Kerajaan UK menolak suis kecemasan nasional yang berdiri sendiri kerana menganggapnya tidak memadai untuk ancaman global. Pengkritik menerima keterbatasan itu tetapi membuat kesimpulan berbeza: Britain patut menggabungkan kuasa statutori domestik dengan kerjasama antarabangsa, bukannya menganggap satu daripadanya boleh menggantikan yang lain. 1316