Anthropic’in AISI’ye Mythos 5.1 erişimi vermemesi ne anlama geliyor?

Anthropic, Mythos 5.1’i Birleşik Krallık AI Security Institute’a (AISI) neden piyasaya çıkmadan önce vermediğini kamuya açıklamadığı için kesin bir neden söylemek mümkün değil. Eldeki bulgu daha dar: AISI bu modele önceden erişemedi; Mythos 5.1 ise Anthropic’in Project Glasswing kapsamındaki seçilmiş katılımcılar için sunduğu kısıtlı bir araştırma modeli olarak tanımlanıyor. 16

Mythos 5.1 ile Fable 5.1 arasındaki kritik fark

Anthropic’in sürüm notlarına göre Claude Fable 5.1, uzun soluklu ajan tabanlı kodlama, bilgi çalışması ve araştırma için yaygın erişime açılan model. Claude Mythos 5.1 ise Project Glasswing katılımcılarına yönelik, daha sınırlı erişimli siber güvenlik ve biyoloji araştırma modeli. Her iki model de 1 milyon token bağlam penceresi ve en fazla 128 bin token çıktı desteği sunuyor. 16

Bu ayrım önem taşıyor: Kısıtlı erişim, modelin özellikle hassas kabul edilen kabiliyetleri için daha dar bir dağıtım ve denetim çerçevesi uygulandığı anlamına geliyor. Ancak AISI’nin erişememesi tek başına modelin güvensiz olduğu veya belirli bir zararı mümkün kıldığı sonucunu doğurmaz.

AISI neden önemli bir bağımsız değerlendirici?

AISI, Birleşik Krallık hükümeti içinde faaliyet gösteren bir araştırma kuruluşu. Amacı, gelişmiş yapay zekânın riskleri ve çözüm yolları hakkında hükümetlere bilimsel, ampirik bir anlayış sağlamak. Çalışmaları; önde gelen sistemleri kamuya açılmadan önce test etmeyi, geliştiricilerle güvenlik ve emniyet konusunda çalışmayı ve politika yapıcıları yeni kabiliyetler hakkında bilgilendirmeyi kapsıyor. 6

Kurumun 100’ü aşkın teknik çalışanı bulunuyor ve 30’dan fazla ileri seviye modeli test ettiğini belirtiyor. Bu değerlendirmelerin titiz, tekrarlanabilir ve gerçek dünya risklerine dayalı olduğunu söylüyor. 24

Dolayısıyla önceden erişim verilmemesi, kurumsal kapasite eksikliğinden ziyade erişim düzenlemesinin sınırlarıyla ilgili bir mesele. AISI’nin katılımı şirketlerin gönüllü iş birliğine bağlıysa, kurumun test edemediği bir sistem veya varyant için bağımsız kamu değerlendirmesi yapılamaz. Özellikle korumaların farklılaştırıldığı yüksek riskli araştırma senaryolarında bu, anlamlı bir denetim boşluğu oluşturabilir.

Karardan ne çıkarılamaz?

Bu vakadan, kararın ABD hükümeti tarafından emredildiği ya da hukuken zorunlu kılındığı sonucu çıkarılamaz. Kamuya açık gerekçe olmadığı için şu olasılıklar arasında kanıta dayalı bir seçim yapılamıyor:

• ihracat kontrolleri veya ulusal güvenlik hassasiyetleri,
• siber güvenlik ve biyoloji alanlarındaki kötüye kullanım riski,
• ticari gizlilik,
• yalnızca belirli kurumlarla çalışma tercihi,
• daha geniş bir erişim politikasının uygulanması.

Birleşik Krallık yetkililerinin, erişim düzenlemelerinin giderek stratejik bir denetim aracına dönüşebileceğinden endişe duyması anlaşılır. Yine de bu, koordineli bir korumacılık politikasının kanıtı değil; mevcut bilgilerden yapılan jeopolitik bir yorumdur.

Asıl güvenlik sorusu

AISI’nin rolü, geliştiricinin kendi ölçümlerinin kaçırabileceği kabiliyetleri veya ancak zorlayıcı testlerde ortaya çıkan sorunları incelemek. Kurum, ileri yapay zekâ sistemlerini siber güvenlik, biyoloji-kimya, otonom davranış ve korumalar gibi alanlarda değerlendiriyor. 814

Bu nedenle mesele sadece kurumlar arası protokol değil. Bağımsız bir değerlendiricinin, kısıtlı bir model varyantını dağıtımdan önce sınayamaması; güvenlik önlemlerinin gerçekten ne kadar etkili olduğuna dair dışarıdan doğrulama imkânını azaltır.

Kısacası: AISI’ye erişim verilmemesi, Mythos 5.1’in tehlikeli olduğunu ispatlamıyor. Ancak seçilmiş erişime açık ve hassas araştırma kullanımları için tasarlanmış bir modelin, önemli bir bağımsız kamu değerlendiricisi tarafından önceden test edilememiş olması anlamına geliyor.