Akses Ujian AI EU Dedahkan Jurang Keselamatan Model Hadapan UK

Pengecualian UK yang dilaporkan daripada ujian prapelancaran Claude Mythos 5.1 oleh Anthropic bukan semestinya mencerminkan kelemahan kepakaran teknikal Britain. Namun, ia menonjolkan masalah yang lebih asas: badan penilai negara tidak boleh menilai model AI termaju secara bebas dan tepat pada masanya jika akses akhirnya bergantung pada persetujuan pembangunnya.

Akses Agensi Keselamatan Siber Kesatuan Eropah (ENISA) kepada Anthropic Mythos 5 dan OpenAI GPT-6 Astra memang signifikan. Namun, ia tidak bermakna EU mempunyai hak kekal untuk menguji setiap versi model baharu — dan ia juga tidak membuktikan ENISA mendapat akses kepada Mythos 5.1. 920

Bezakan akses mengikut model

Menurut jurucakap Suruhanjaya Eropah, ENISA telah diberi akses kepada Mythos 5 dan GPT-6 Astra untuk ujian. 9 Secara berasingan, laporan menyatakan Anthropic tidak memberikan UK AI Security Institute (AISI) akses kepada Mythos 5.1 sebelum pelancaran. Ini dilaporkan sebagai kali pertama Anthropic tidak menyerahkan model utama kepada proses ujian prapelancaran badan UK itu. 2023

Jadi, situasi ini bukan sekadar cerita mudah bahawa EU menang dan UK kalah. Akses ENISA terpakai kepada dua model yang dinamakan, di bawah aturan tertentu. Mythos 5.1 pula ialah keluaran berbeza dengan akses yang lebih ketat.

Kesimpulan praktikalnya: penilaian keselamatan semakin dipecahkan mengikut versi model, keupayaan, tujuan penggunaan, bidang kuasa dan kriteria rakan yang ditetapkan oleh pembangun sendiri.

Mengapa Mythos 5.1 menjadi kes tadbir urus yang lebih rumit

Anthropic menyatakan Claude Fable 5.1 dan Claude Mythos 5.1 ialah model asas yang sama, tetapi mempunyai tahap perlindungan berbeza. Fable 5.1 tersedia secara umum, manakala Mythos 5.1 hanya ditawarkan melalui program akses dipercayai untuk kerja keselamatan siber dan sains hayat. 12

Ini menjadikan persoalannya lebih besar daripada ujian produk biasa. Sistem yang direka untuk tugas siber atau saintifik yang sensitif menimbulkan isu persekitaran terkawal, pemantauan penyalahgunaan, saringan kakitangan dan pengendalian berkaitan keselamatan negara. Laporan menyebut akses Mythos 5.1 pada peringkat awal dihadkan kepada organisasi AS yang telah disaring. 1824

Bukti yang ada tidak membuktikan Anthropic mengecualikan UK kerana tidak mempercayai negara itu atau AISI. Reka bentuk program akses terhad, kebimbangan keselamatan operasi dan kawalan komersial terhadap akses semuanya merupakan penjelasan yang munasabah. Namun hasilnya tetap penting: kerjasama sedia ada dan reputasi sesebuah penilai tidak menjamin akses segera kepada model berimpak tinggi.

Apa yang ditunjukkan oleh akses ENISA tentang pengaruh EU

EU mempunyai asas undang-undang yang lebih kukuh berbanding sistem yang semata-mata bergantung pada kerelaan syarikat. Di bawah Artikel 55 Akta AI EU, penyedia model AI tujuan am yang mempunyai risiko sistemik perlu menjalankan penilaian model menggunakan protokol dan alat piawai, menilai serta mengurangkan risiko sistemik, menjejak dan melaporkan insiden serius, serta memastikan tahap perlindungan keselamatan siber yang sesuai. 4337

Akta itu juga membayangkan penilaian sebelum model pertama kali dipasarkan, termasuk ujian adversarial yang didokumenkan. Ujian ini boleh dilakukan secara dalaman atau oleh pihak luar yang bebas, jika bersesuaian. 3534

Namun kewajipan penyedia tersebut tidak sama dengan hak menyeluruh ENISA untuk menerima pemberat model, akses sistem tanpa had atau akses prapelancaran bagi setiap keluaran model hadapan. Aturan ujian ENISA penting kerana ia nampaknya diperoleh menerusi penglibatan dengan syarikat berkenaan, di samping kedudukan peraturan EU yang lebih luas. 49

Dengan kata lain, peraturan boleh mengukuhkan keupayaan EU untuk menuntut bukti, pengurusan risiko dan pematuhan. Tetapi peraturan tidak menghapuskan keperluan kerjasama yang selamat dari segi operasi apabila model mempunyai keupayaan siber, biologi atau ejen autonomi yang sensitif.

Mengapa UK lebih terdedah

Pengecualian UK daripada Mythos 5.1 yang dilaporkan itu memperjelas batas pendekatan akses sukarela. Liputan mengenai episod tersebut menyebut desakan agar AISI mendapat asas statutori dan kuasa yang lebih kukuh selepas Anthropic tidak memberikan akses kepada model terbaharunya. 23

Pendekatan sukarela boleh berfungsi dengan baik apabila makmal AI melihat manfaat dalam kerjasama. Ia mungkin lebih pantas dan lebih anjal dari segi teknikal berbanding peraturan yang terlalu tegar. Kelemahannya ialah kebolehramalan: pembangun boleh mengehadkan akses, menukar kumpulan rakan yang layak, atau memutuskan bahawa sesuatu model perlu diletakkan dalam saluran keselamatan negara yang lebih ketat.

Ini mewujudkan risiko strategik kepada UK. Jika penilainya hanya menerima sistem hadapan selepas pelancaran — atau hanya selepas kerajaan lain dan rakan yang diluluskan selesai mengujinya — UK berisiko beralih daripada membantu membentuk bukti keselamatan kepada sekadar menggunakan bukti yang dihasilkan di tempat lain.

Rangka kerja UK yang lebih tahan lama

Matlamat dasar segera tidak semestinya penyerahan wajib pemberat model. Bagi model yang sangat berkeupayaan, langkah itu sendiri boleh mencipta risiko keselamatan dan harta intelek. Sebaliknya, rangka kerja yang lebih kukuh boleh menumpukan akses terkawal yang boleh diaudit.

Antara langkah yang boleh dipertimbangkan:

1. Notis sebelum pelaksanaan bagi model hadapan tertentu. Pembangun boleh diwajibkan memaklumkan pihak berkuasa yang ditetapkan sebelum melaksanakan model yang mencapai ambang keupayaan atau risiko tertentu.
2. Kuasa statutori untuk meminta bukti. AISI boleh diberi kuasa jelas untuk mendapatkan dokumen kes keselamatan, keputusan penilaian, maklumat insiden dan dokumentasi teknikal yang berkaitan.
3. Persekitaran penilaian selamat. Peraturan boleh mewajibkan akses terhad masa menerusi API yang dipantau, sistem kotak pasir atau persekitaran terkawal lain, tanpa memerlukan akses kepada pemberat model.
4. Laluan semakan keselamatan negara. Model dengan implikasi ketara terhadap siber, sains hayat atau ejen autonomi boleh mencetuskan semakan bersepadu yang melibatkan kepakaran siber, biosekuriti, risikan dan penilaian AI.
5. Kerjasama rasmi dengan EU. Protokol penilaian bersama, saluran ujian selamat yang saling diiktiraf dan proses insiden serius yang serasi dapat mengurangkan pertindihan serta membantu mengelakkan UK tersisih daripada rangkaian ujian Eropah.

Cadangan ini menyasar kelemahan utama yang didedahkan oleh kes tersebut: akses perlu direka dalam sistem tadbir urus, bukan dibiarkan sepenuhnya bergantung pada hubungan dengan makmal AI individu.

Ujian AI hadapan dijangka menjadi bertingkat

Arah yang mungkin ialah sistem penilaian berlapis. Model yang disasarkan kepada pasaran umum akan tertakluk pada ujian oleh penyedia, dokumentasi kawal selia dan kewajipan insiden. Keupayaan siber, biologi dan ejen autonomi yang lebih sensitif pula semakin cenderung dinilai dalam persekitaran terhad. Sistem paling berisiko mungkin hanya boleh diakses oleh sekumpulan kecil rakan kerajaan, makmal dan keselamatan yang telah disaring.

Aturan ENISA di EU dan pengecualian UK daripada Mythos 5.1 menunjukkan mengapa perbezaan ini penting. Persaingan utama kini bukan hanya tentang siapa mampu membina model paling berkuasa. Ia juga tentang siapa yang boleh memeriksa, menguji dan mentadbir versi paling berkesan sebelum ia digunakan dengan lebih meluas. 91220

Bagi UK, keupayaan penilaian teknikal masih bernilai, tetapi tidak mencukupi dengan sendirinya. Mengekalkan pengaruh memerlukan kuasa undang-undang yang boleh diharap di dalam negara dan aturan akses yang kukuh serta peka terhadap keselamatan dengan rakan di luar negara.