Akses Uji AI UE Soroti Celah Keamanan Model Frontier Inggris

Akses prarilis yang dilaporkan tidak diberikan kepada UK AI Security Institute (AISI) untuk Anthropic Claude Mythos 5.1 bukanlah vonis atas kemampuan teknis Inggris. Ini lebih merupakan peringatan tentang persoalan akses: lembaga evaluator nasional tidak dapat menguji model AI frontier secara independen dan tepat waktu bila partisipasinya pada akhirnya bergantung pada persetujuan pengembang.

Akses badan keamanan siber Uni Eropa, ENISA, ke Anthropic Mythos 5 dan OpenAI GPT-6 Astra memang penting. Namun, itu tidak berarti Uni Eropa memiliki hak tetap untuk menguji setiap model penerus—atau bahwa ENISA juga mendapat akses ke Mythos 5.1. 920

Intinya: akses berlaku untuk model tertentu

Menurut juru bicara Komisi Eropa, ENISA telah diberi akses ke Mythos 5 dan GPT-6 Astra untuk pengujian. 9 Secara terpisah, laporan menyebut Anthropic tidak memberikan Mythos 5.1 kepada AISI untuk diuji sebelum peluncuran. Ini disebut sebagai pertama kalinya Anthropic menahan model besar dari proses pengujian prarilis lembaga Inggris tersebut. 2023

Fakta ini tidak seharusnya disederhanakan menjadi narasi “UE menang, Inggris kalah”. Akses ENISA berlaku untuk dua model yang disebutkan secara spesifik dan di bawah pengaturan tertentu. Mythos 5.1 adalah rilis berbeda dengan akses yang lebih terbatas.

Pelajaran praktisnya: evaluasi keselamatan AI kini makin tersegmentasi berdasarkan versi model, kemampuan, tujuan penggunaan, yurisdiksi, serta kriteria mitra yang ditetapkan pengembang sendiri.

Mengapa Mythos 5.1 menjadi kasus tata kelola yang lebih sulit

Anthropic menyatakan Claude Fable 5.1 dan Claude Mythos 5.1 memakai model dasar yang sama, tetapi memiliki tingkat pengamanan berbeda. Fable 5.1 tersedia secara umum, sedangkan Mythos 5.1 hanya tersedia melalui program akses tepercaya yang dirancang untuk pekerjaan di keamanan siber dan ilmu hayati. 12

Artinya, isu ini bukan sekadar pengujian produk biasa. Sistem yang ditujukan untuk pekerjaan siber atau ilmiah sensitif memunculkan pertanyaan mengenai lingkungan terkendali, pemantauan penyalahgunaan, verifikasi personel, serta penanganan yang terkait kepentingan keamanan nasional. Laporan menyebut akses Mythos 5.1 pada awalnya dibatasi bagi organisasi AS yang telah melalui proses verifikasi. 1824

Bukti yang tersedia tidak membuktikan bahwa Anthropic mengecualikan Inggris karena tidak mempercayai negara tersebut atau institusinya. Desain program terbatas, pertimbangan keamanan operasional, dan kendali komersial atas akses merupakan penjelasan yang masuk akal. Namun hasil akhirnya tetap penting: rekam jejak kerja sama dan reputasi evaluator ternyata tidak menjamin akses cepat ke model berkonsekuensi tinggi.

Arti akses ENISA bagi daya tawar UE

UE memiliki landasan hukum yang lebih kuat dibanding sistem yang sepenuhnya sukarela. Berdasarkan Pasal 55 EU AI Act, penyedia model AI serbaguna dengan risiko sistemik wajib melakukan evaluasi model memakai protokol dan alat yang terstandardisasi, menilai serta memitigasi risiko sistemik, melacak dan melaporkan insiden serius, dan memastikan tingkat perlindungan keamanan siber yang memadai. 4337

Undang-undang itu juga membayangkan evaluasi sebelum model pertama kali dipasarkan, termasuk pengujian adversarial yang didokumentasikan. Pengujian tersebut dapat dilakukan secara internal atau, bila sesuai, oleh pihak eksternal yang independen. 3534

Namun, kewajiban bagi penyedia ini berbeda dari hak menyeluruh bagi ENISA untuk menerima bobot model, akses sistem tanpa batas, atau akses prarilis ke setiap rilis AI frontier. Pengaturan pengujian ENISA justru bernilai karena tampaknya diperoleh melalui keterlibatan dengan perusahaan, di samping posisi regulasi UE yang lebih luas. 49

Dengan kata lain, regulasi dapat memperkuat kemampuan UE untuk menuntut bukti, pengelolaan risiko, dan kepatuhan. Regulasi tidak menghapus kebutuhan kerja sama yang aman secara operasional ketika model yang diuji memiliki kapabilitas siber, biologis, atau agen otonom yang sensitif.

Mengapa Inggris lebih rentan

Tidak diberikannya Mythos 5.1 kepada AISI, sebagaimana dilaporkan, menegaskan batas pendekatan berbasis akses sukarela. Pelaporan mengenai kasus ini mencatat adanya seruan untuk memberikan landasan hukum dan kewenangan lebih kuat kepada AISI setelah Anthropic tidak memberi akses ke model terbarunya. 23

Pendekatan sukarela dapat bekerja baik ketika laboratorium AI melihat manfaat dari kolaborasi. Pendekatan ini bisa lebih cepat dan lebih fleksibel secara teknis daripada aturan yang kaku. Kelemahannya adalah kepastian: pengembang dapat membatasi akses, mengubah kelompok mitra yang memenuhi syarat, atau memutuskan bahwa suatu model harus ditempatkan dalam jalur keamanan nasional yang lebih ketat.

Risiko strategis bagi Inggris pun muncul. Jika evaluatornya hanya menerima sistem frontier setelah peluncuran—atau setelah pemerintah lain dan mitra yang disetujui mengujinya—Inggris dapat bergeser dari pihak yang membantu membentuk bukti keselamatan menjadi sekadar pengguna bukti yang dihasilkan di tempat lain.

Kerangka yang lebih tahan lama bagi Inggris

Tujuan kebijakan yang mendesak tidak harus berupa kewajiban menyerahkan bobot model. Untuk model yang sangat kapabel, langkah tersebut dapat memunculkan risiko keamanan dan kekayaan intelektual tersendiri. Kerangka yang lebih kuat dapat berfokus pada akses yang terkendali dan dapat diaudit.

Sejumlah opsi yang dapat dipertimbangkan:

1. Pemberitahuan sebelum penerapan untuk model frontier yang ditetapkan. Pengembang dapat diwajibkan memberi tahu otoritas yang ditunjuk sebelum menerapkan model yang memenuhi ambang kemampuan atau risiko tertentu.
2. Kewenangan hukum untuk meminta bukti. AISI dapat memiliki kewenangan jelas untuk memperoleh dokumen kasus keselamatan, hasil evaluasi, informasi insiden, dan dokumentasi teknis yang relevan.
3. Lingkungan evaluasi yang aman. Aturan dapat mensyaratkan akses berbatas waktu melalui API yang dipantau, sistem sandbox, atau lingkungan terkendali lain, alih-alih akses ke bobot model.
4. Jalur peninjauan keamanan nasional. Model dengan implikasi material bagi keamanan siber, ilmu hayati, atau agen otonom dapat memicu peninjauan terkoordinasi yang melibatkan keahlian siber, biosekuriti, intelijen, dan evaluasi AI.
5. Kerja sama formal dengan UE. Protokol evaluasi bersama, kanal pengujian aman yang bersifat timbal balik, dan proses insiden serius yang kompatibel dapat mengurangi duplikasi serta membantu mencegah Inggris tersisih dari jaringan pengujian Eropa.

Usulan ini menyasar kelemahan utama yang terungkap dalam kasus tersebut: akses perlu dirancang ke dalam sistem tata kelola, bukan sepenuhnya diserahkan pada hubungan dengan masing-masing laboratorium AI.

Pengujian AI frontier kemungkinan akan bertingkat

Arah yang paling mungkin adalah sistem evaluasi berlapis. Model yang ditujukan untuk pasar luas akan menghadapi pengujian oleh penyedia, dokumentasi regulasi, dan kewajiban terkait insiden. Kapabilitas siber, biologis, serta agen otonom yang lebih sensitif akan semakin diuji dalam lingkungan terbatas. Sistem dengan risiko tertinggi mungkin hanya dapat diakses oleh sejumlah kecil mitra pemerintah, laboratorium, dan keamanan yang telah diverifikasi.

Pengaturan ENISA di UE dan tidak diberikannya Mythos 5.1 kepada Inggris menunjukkan mengapa pembedaan itu penting. Persaingan kini tidak hanya tentang siapa yang dapat membangun model paling kuat, melainkan juga siapa yang dapat memeriksa, menguji, dan mengatur versi paling berkonsekuensi sebelum digunakan lebih luas. 91220

Bagi Inggris, kapasitas evaluasi teknis tetap berharga, tetapi tidak cukup dengan sendirinya. Mempertahankan pengaruh akan memerlukan kewenangan hukum yang andal di dalam negeri serta pengaturan akses yang tahan lama dan sadar risiko keamanan dengan mitra di luar negeri.