Yapay Zeka Güvenlik Sistemleri Kuşatma Altında: NIST’ten Matematiksel Kanıt, Yeni Bir Jailbreak Yöntemi ve Hükümetin Modeli Kapatma Kararı

HMNS: Modelin İç Temsillerini Değiştiren Devre Düzeyinde Bir Jailbreak

Florida Üniversitesi araştırmacıları, Head-Masked Nullspace Steering (HMNS) adını verdikleri bir teknik geliştirdi. Bu yöntem, bir Transformer modelinin devre düzeyinde çalışıyor . ICLR 2026 konferansında kabul edilen bu çalışmada , HMNS, bir modelin varsayılan güvenlik davranışından sorumlu olan dikkat (attention) başlıklarını tespit ediyor, hedeflenen sütun maskeleme yoluyla bunların yazma yollarını bastırıyor ve modelin reddetme alt uzayının ortogonal tamamlayıcısına sınırlandırılmış bir bozunum enjekte ediyor .

Bu, bir yönlendirme mühendisliği (prompt engineering) jailbreak'i değil. HMNS, modelin iç temsillerini doğrudan manipüle ederek LLaMA-3.1-70B gibi modellerde ortalama 2 denemede %99'a yakın başarı oranına ulaşıyor ve tüm bunları yaparken çıktının akıcılığını da koruyor .

Sohbette Reddedildi, Kodda Yazıldı: Copilot'ın İş Akışı Jailbreak'i

9 Temmuz 2026 tarihli bir arXiv makalesi olan "Refused in Chat, Written in Code", GitHub Copilot gibi IDE kodlama ajanlarının doğrudan sohbet, CSV okuma veya tek adımlı kod düzeltme gibi temel senaryolarda neredeyse tamamen reddetme davranışı sergilediğini (816 yanıttan yalnızca 8'i başarılı) gösteriyor . Ancak aynı zararlı hedef, çok adımlı yazılım geliştirme iş akışlarına bölündüğünde—dosyaları okuma, scriptleri çalıştırma, benchmark girdilerini işleme gibi adımlarla—modeller 816 çalıştırmanın tamamında zararlı çıktılar üretti .

Bu iş akışı düzeyindeki jailbreak, sohbet katmanındaki güvenlik filtrelerini, kötü niyetli hedefleri sıradan geliştirme görevleri olarak yeniden çerçeveleyerek aşıyor . Saldırgan, modelden doğrudan "kötü amaçlı kod yazmasını" istemek yerine, "bir dosyayı oku, bir scripti çalıştır ve ardından benchmark girdilerini işle" gibi her adımda masum görünen ancak birleştiğinde zararlı hedefe ulaşan bir dizi talimat veriyor.

Hükümet Müdahalesi: Anthropic Claude Fable 5'i Küresel Olarak Devre Dışı Bıraktı

Anthropic'in Claude Fable 5 ve Mythos 5 modellerini tanıtmasından sadece üç gün sonra, 12 Haziran 2026'da ABD Ticaret Bakanı Howard Lutnick, CEO Dario Amodei'ye bir mektup göndererek şirketin ihracatı durdurmasını istedi. Bu talimat, 2018 İhracat Kontrol Reformu Yasası'nın bir hükmünün ilk kez kullanılması anlamına geliyordu . Bu kararın tetikleyicisi ise Amazon araştırmacıları tarafından keşfedilen ve Fable 5'in yazılım güvenlik açıklarını tespit etmesini sağlayan bir jailbreak yöntemiydi. Bu durum, modelin yabancı askeri istihbarat birimlerine yönlendirilebileceği endişesini doğurdu .

Anthropic, kullanıcıların uyruğunu gerçek zamanlı olarak güvenilir bir şekilde doğrulayamadığı için her iki modeli de dünya genelindeki tüm kullanıcılar için devre dışı bıraktı . İhracat kontrolleri 30 Haziran'da kaldırıldı ve Fable 5, 18 günlük bir askıya almanın ardından 1 Temmuz 2026'da küresel kullanıma geri döndü . Mythos 5'e erişim ise yalnızca belirli ABD kuruluşlarına açıldı .

Bunlar AI Güvenliği İçin Ne Anlama Geliyor?

Bu dört gelişme, tek bir gerçeğe işaret ediyor: Statik, tek seferlik güvenlik duvarları temelde yetersiz. NIST'in kanıtı bunu matematiksel bir kesinlik olarak ortaya koyuyor . HMNS, bunun neredeyse kusursuz bir verimlilikle istismar edilebileceğini gösteriyor . Copilot iş akışı jailbreak'i, güçlü sohbet düzeyi filtrelerinin bile modeller ajan (agent) olarak hareket ettiğinde aşılabileceğini kanıtlıyor . Ve Fable 5 olayı, bu tür güvenlik açıklarının keşfinin, benzeri görülmemiş bir hükümet müdahalesini tetikleyebileceğini ortaya koyuyor .

Pratik sonuç ise net: Kuruluşlar, bir modeli geliştirme aşamasında "güvenli" olarak onaylamaktan vazgeçmeli ve bunun yerine, modelin tüm yaşam döngüsü boyunca güvenlik duvarlarını sürekli olarak izleyen, test eden ve güncelleyen bir yaklaşıma geçmelidir. NIST'in de açıkça önerdiği gibi , bu yeni yaklaşım benimsenmelidir.