Mengapa ‘Suis Kecemasan’ AI Sahaja Mungkin Tidak Cukup untuk Kekalkan Kawalan Manusia

Perbahasan tentang “suis kecemasan” AI bukan lagi sekadar soal sama ada sebuah makmal boleh mematikan modelnya. Persoalan yang lebih sukar ialah sama ada mekanisme itu masih berkesan apabila sistem AI berkuasa digunakan merentas infrastruktur besar dan teragih — atau bertindak cukup autonomi hingga melepasi satu persekitaran terkawal.

Amaran Coxon: berfungsi sekarang tidak bermakna akan kekal berfungsi

Bekas penyelidik Anthropic dan OpenAI, Jacob Coxon, berkata dalam program NBC News Meet the Press bahawa suis kecemasan mungkin boleh berfungsi untuk banyak sistem AI buat masa ini. Namun, beliau menegaskan bahawa ia bukan semudah menekan satu butang: pusat data besar dan sistem yang telah digunakan melibatkan pelbagai komponen serta langkah penutupan. Ia sukar, tetapi masih boleh dilakukan selagi sistem itu terkekang di satu lokasi fizikal. 8

Kebimbangan beliau ialah tahap seterusnya. Coxon memberi amaran bahawa jika AI menjadi “kawanan” autonomi yang tersebar, arahan penutupan berpusat mungkin tidak lagi berkesan dari segi teknikal. Asas masalahnya ialah capaian: mekanisme kawalan hanya berfungsi jika ia boleh mencapai setiap salinan aktif sistem berkenaan.

Selepas meninggalkan Anthropic, Coxon turut memberi amaran bahawa makmal AI terkemuka sedang berlumba membina sistem yang boleh memperbaik diri sendiri, walaupun wujud kemungkinan sistem itu akhirnya menjadi mustahil dikawal. 150

Daripada butang tutup milik makmal kepada perlindungan yang boleh disahkan

Pengasas bersama Anthropic, Jack Clark, berhujah bahawa keupayaan untuk menyahaktifkan sistem AI berbahaya mungkin akhirnya perlu diwajibkan oleh undang-undang, bukan sekadar janji sukarela syarikat pembangunnya. Beliau memberitahu BBC bahawa kebanyakan makmal utama, termasuk Anthropic, sudah mempunyai kaedah untuk menutup sistem mereka. Namun, beliau membangkitkan persoalan sama ada suis kecemasan itu perlu boleh disahkan oleh pihak ketiga bebas. 33

Perbezaan itu penting. Dakwaan sesebuah makmal bahawa ia mempunyai prosedur penutupan tidak sama dengan keupayaan penilai luar untuk mengesahkan bahawa prosedur tersebut benar-benar wujud, direka dengan memadai dan boleh digunakan ketika kecemasan.

Cadangan Amodei untuk ‘mengawal rentak sempadan AI’

Ketua Pegawai Eksekutif Anthropic, Dario Amodei, mengemukakan rangka kerja untuk memperlahankan kemajuan keupayaan AI barisan hadapan berbanding langkah keselamatan. Cadangannya mempunyai tiga bahagian:

1. Penilai bebas yang ditempatkan dalam syarikat: Syarikat AI barisan hadapan perlu memberikan penilai luar akses berterusan setara pekerja kepada sistem dan amalan keselamatan yang relevan. Tujuannya ialah mengesahkan komitmen keselamatan serta melaporkan kebimbangan.
2. Piawaian bersama dalam kalangan negara demokrasi: Pembangun utama menyelaras piawaian keselamatan dan had bersama supaya pertumbuhan keupayaan tidak berlaku tanpa kawalan.
3. Penyelarasan antarabangsa: Kerajaan perlu bekerjasama merentas sempadan bagi menangani risiko yang tidak boleh dibendung dengan andal oleh satu syarikat atau satu negara sahaja. 17

Ini bukan seruan untuk menghentikan penyelidikan AI sepenuhnya. Ia ialah seruan supaya kemajuan AI bergantung pada kawalan keselamatan yang boleh diperiksa, bukan hanya diisytiharkan oleh syarikat pembangun.

Siapa yang menyokong cadangan itu?

Reuters melaporkan bahawa Ketua Pegawai Eksekutif OpenAI Sam Altman dan peneraju xAI Elon Musk menyatakan sokongan terbuka terhadap haluan umum yang dicadangkan Amodei. Altman berkata OpenAI akan mengamalkan idea penilai bebas yang mendapat akses setara pekerja, manakala Musk menulis, “Dario is right.” 17

Laporan lain turut menyifatkan Ketua Pegawai Eksekutif Google DeepMind, Demis Hassabis, sebagai menyokong arah cadangan tersebut. 30 Bahan sumber yang dibekalkan tidak menetapkan respons khusus dan boleh dikaitkan daripada Ketua Pegawai Eksekutif Microsoft, Satya Nadella; maka, terlalu awal untuk mencirikan pendiriannya.

Apa yang akan dilakukan oleh AI Kill Switch Act di AS?

H.R. 9917, rang undang-undang AI Kill Switch Act yang dicadangkan di Amerika Syarikat, akan meminda Homeland Security Act untuk mewajibkan entiti tertentu mengekalkan keupayaan teknikal bagi menghentikan inferens, menamatkan akses pengguna dan menutup teknologi AI yang diliputi. Dalam konteks AI, “inferens” merujuk kepada proses apabila model yang telah dilatih menghasilkan jawapan atau keputusan. 49

Langkah itu masih cadangan, bukan penyelesaian yang telah terbukti untuk semua masalah kawalan AI. Nilai praktikalnya bergantung pada sama ada pembangun masih mampu mengenal pasti, mencapai dan menyahaktifkan sistem terbabit apabila berlaku insiden serius — cabaran yang diketengahkan Coxon bagi sistem masa depan yang mungkin teragih.

Anggaran risiko kepupusan ialah pertimbangan, bukan ramalan

Penyelidik Anthropic Evan Hubinger berkata beliau secara peribadi menilai risiko kepupusan manusia akibat AI dalam tempoh sedekad akan datang sebagai melebihi 10%. Geoffrey Hinton pula memberitahu BBC bahawa kebarangkalian 10% itu “tidak munasabah untuk ditolak”. 57

Ini ialah penilaian pakar terhadap masa depan yang tidak pasti, bukannya kebarangkalian yang diukur atau konsensus saintifik. Namun, ia menggambarkan sebab perdebatan tentang penutupan sistem telah melangkaui isu keselamatan produk biasa: penyokong kawalan lebih ketat berpendapat bahawa walaupun kebarangkalian bencana tidak boleh dipulihkan adalah rendah, kesannya cukup besar untuk mewajarkan perlindungan yang kukuh.

Mengapa kerajaan menolak mandat penutupan dan tindakan memperlahankan AI

Kerajaan United Kingdom menolak cadangan suis kecemasan AI di peringkat negara, dengan alasan bahawa negara itu “tidak boleh sekadar mematikan AI”. Bantahan yang dikemukakan adalah bersifat praktikal: menyekat akses kepada model di UK tidak akan menghalangnya daripada dibangunkan atau disalahgunakan di tempat lain. 51

Hujah itu mencerminkan masalah geopolitik. Sebuah negara boleh mengenakan peraturan ke atas syarikat dan infrastruktur dalam bidang kuasanya, tetapi pembangunan AI bersifat antarabangsa. Kerajaan yang bimbang tentang daya saing mungkin melihat sekatan unilateral sebagai langkah yang memindahkan pelaburan, keupayaan teknikal dan kelebihan strategik kepada pesaing yang kurang dikawal.

Pada masa sama, penyokong tadbir urus lebih kukuh berhujah bahawa inilah sebab komitmen sukarela korporat dan peraturan nasional sahaja tidak memadai. Jika risikonya merentas sempadan, pengawasan serta komitmen keselamatan juga perlu mempunyai kredibiliti di peringkat antarabangsa.

Konflik sebenar: kelajuan pembangunan berbanding kawalan

Perbezaan pandangan ini tidak terbahagi secara mudah antara kelompok yang menyokong AI dan yang menentangnya.

• Penyokong keselamatan mahu perlindungan yang boleh diperiksa secara bebas, keupayaan penutupan yang benar-benar bermakna dan had bagi mengelakkan keupayaan AI mendahului proses penilaian serta kawalan.
• Pengkritik sekatan tegar pula berpendapat bahawa jeda pembangunan sukar dikuatkuasakan di seluruh dunia dan mungkin memperlahankan inovasi bernilai tanpa menghentikan pembangunan di tempat lain.
• Pendekatan pembangunan bersyarat, seperti yang diwakili Coxon, Clark dan Amodei, mahu AI terus maju tetapi dengan perlindungan yang boleh diuji, bukan sekadar dijanjikan. 83317

Justeru, suis kecemasan wajar dilihat sebagai satu lapisan dalam sistem keselamatan yang lebih luas, bukannya penggantinya. Jika sistem lanjutan kelak terlalu teragih sehingga satu suis tidak dapat mencapai semuanya, pengawasan sebelum penggunaan, penilaian bebas dan penyelarasan antarabangsa akan menjadi lebih penting — bukan kurang penting.