Mengapa Anthropic Tidak Memberi AISI UK Akses Awal kepada Mythos 5.1?

Anthropic belum menyatakan secara terbuka mengapa ia tidak memberikan AI Security Institute (AISI) United Kingdom akses pra-pelancaran kepada Mythos 5.1. Jadi, tidak wajar untuk mendakwa ada satu sebab yang pasti. Apa yang dapat disimpulkan daripada maklumat yang ada lebih terhad: AISI tidak memperoleh akses awal, sedangkan akses kepada model itu dihadkan kepada kumpulan kecil di Amerika Syarikat yang telah disaring. Kebimbangan bahawa langkah itu mungkin mencerminkan perlindungan kepentingan strategik adalah tafsiran pegawai UK, bukannya alasan rasmi Anthropic yang telah dibuktikan. 34

Perbezaan Mythos 5.1 dan Fable 5.1

Menurut nota keluaran Anthropic, Claude Fable 5.1 ialah model yang boleh digunakan secara lebih meluas bagi pengekodan berasaskan ejen, kerja pengetahuan dan penyelidikan jangka panjang. Claude Mythos 5.1 pula disediakan untuk peserta Project Glasswing. Kedua-duanya menyokong tetingkap konteks 1 juta token dan output maksimum 128,000 token. 16

Dalam penerangan terdahulu mengenai pembahagian produk seumpama ini, versi terhad itu dikaitkan dengan penggunaan dalam bidang berisiko tinggi seperti siber serta biologi, apabila perlindungan tertentu dilonggarkan bagi penyelidikan yang ditetapkan. Justeru, isu pokoknya bukan sekadar siapa mendapat ciri model lebih baharu, tetapi siapa yang boleh menilai dengan bebas kesan apabila sekatan keselamatan dikurangkan. 124

Mengapa ketiadaan akses AISI penting?

AISI ialah organisasi penyelidikan dalam kerajaan UK yang bertujuan membekalkan kerajaan dengan pemahaman saintifik tentang risiko AI canggih. Antara tugasnya ialah menguji sistem AI terkemuka sebelum pelepasan awam, menilai mitigasi keselamatan dan memaklumkan pembuat dasar. 67

Institut itu mempunyai lebih 100 kakitangan teknikal dan telah menguji lebih 30 model AI paling canggih. 45 Namun, AISI tidak mempunyai kuasa undang-undang untuk memaksa syarikat menyerahkan model mereka untuk diuji; penyertaan pembangun kekal secara sukarela. Maka, jika sebuah model terhad tidak disediakan kepada AISI, wujud titik buta sebenar dalam penilaian bebas—terutamanya bagi keupayaan yang sensitif dari sudut siber atau biosekuriti.

Apa yang tidak boleh dirumuskan

Tiada bukti mencukupi bahawa keputusan Anthropic itu diarahkan oleh kerajaan AS atau diwajibkan oleh undang-undang AS. Antara kemungkinan yang tidak dapat dipisahkan tanpa penjelasan Anthropic ialah:

• berhati-hati terhadap kawalan eksport;
• sensitiviti keselamatan negara bagi keupayaan siber dan biologi;
• kerahsiaan komersial;
• atau dasar akses yang mengehadkan program tersebut kepada kumpulan di AS.

Semua kemungkinan itu munasabah untuk dipertimbangkan, tetapi tiada satu pun boleh dipersembahkan sebagai fakta yang telah disahkan.

Mengapa isu ini turut dibaca secara geopolitik

Kerajaan UK menegaskan bahawa AISI terus bekerjasama dengan pembangun AI canggih dan telah menjalankan penilaian pra-pelancaran bagi sistem lain. 36 Namun, kebimbangan UK tetap mudah difahami: apabila akses kepada model paling sensitif semakin ditentukan melalui kumpulan kecil yang dibenarkan, susunan itu boleh kelihatan seperti satu bentuk kawalan strategik, bukan lagi norma ujian keselamatan global yang terbuka kepada rakan penyelidik yang dipercayai.

AISI sendiri diwujudkan untuk menguji risiko yang mungkin tidak diukur secukupnya oleh pembangun, atau yang hanya muncul melalui penilaian yang bersifat mencabar dan bebas. Ia telah mengumpulkan bukti mengenai perubahan keupayaan model dalam bidang seperti keselamatan siber, bantuan biologi dan kimia, tingkah laku autonomi serta perlindungan keselamatan. 814

Kesimpulannya

Ketiadaan akses AISI bukan bukti bahawa Mythos 5.1 tidak selamat atau bahawa Anthropic bertindak atas arahan kerajaan AS. Namun, ia bermaksud sebuah badan penilai bebas kerajaan yang penting tidak dapat menguji versi model terhad itu sebelum penggunaannya. Bagi teknologi yang mungkin mempunyai perlindungan lebih longgar dalam bidang berisiko tinggi, jurang semakan bebas tersebut ialah perkara utama yang wajar diberi perhatian.