Abliteration.ai, yapay zekâ modellerindeki “reddetme” davranışını ücretli hizmete dönüştürdü

Abliteration.ai, açık ağırlıklı yapay zekâ modellerindeki tartışmalı bir uygulamayı ticari hizmete dönüştürüyor: Modelin zararlı olabilecek talepleri reddetme eğilimi kaldırılıyor ve değiştirilmiş model çevrim içi olarak sunuluyor. Şirketin Z.ai’nin GLM-5.3 modeli tabanındaki türevine tarayıcıdan veya API üzerinden sorgu gönderilebiliyor. Böylece teknik bilgi ve altyapısı olan kişilerin modeli yerelde değiştirip çalıştırması yerine, yönetilen bir hizmet üzerinden erişim sağlanıyor. 7

Şirket, hizmeti ofansif siber güvenlik çalışmaları, kırmızı takım (red team) testleri ve yapay zekâ ajanı testleri için konumlandırıyor. Ne var ki TechCrunch’ın aktardığı testlerde modelin kayıtlı Chrome parolalarını çıkarmaya yönelik kod ve tehlikeli bir insan patojeninin kültürlenmesine ilişkin ayrıntılı talimatlar üretmesi, temel kaygıyı görünür kıldı: Yetkili savunma testlerinde işe yarayabilecek bir araç, gerçek hayattaki suistimallerin önündeki engelleri de azaltabilir. 7

“Abliteration” ne anlama geliyor?

Bu bağlamda abliteration, bir modelin zararlı talepleri reddetmesine yol açan öğrenilmiş davranışın bastırılması veya kaldırılması anlamına geliyor. Bu, bir sohbet botunun politika katmanını özel bir komutla aşmaya çalışmaktan farklı bir yaklaşım.

Abliteration.ai, reddetme yanıtlarıyla ilişkili model içi etkinleşme yönlerini belirleyip bunları model ağırlıklarından çıkardığını söylüyor. Şirkete göre amaç; kodlama, siber güvenlik ve ajan yeteneklerini korurken, daha sıkı güvenlik kısıtları olan bir modelin yarıda keseceği görev zincirlerini sürdürmek. 1315

Ancak bu açıklama ve faydalı yeteneklerin korunduğu iddiası şirketin kendi beyanı niteliğinde. Sağlanan materyallerde, değiştirilmiş GLM-5.3’ün temel modelle yetenek, güvenilirlik veya güvenlikle ilgili davranışlar bakımından eşdeğer performans gösterdiğini ortaya koyan bağımsız bir değerlendirme bulunmuyor. 13

Abliteration.ai ne sunuyor?

Abliteration.ai, abliterated-model-large-v2 adlı GLM-5.3 tabanlı model de dâhil olmak üzere değiştirilmiş açık ağırlıklı modelleri barındırıyor. Hizmet; ofansif siber çalışmalar, kırmızı takım testleri ve ajan testleri için pazarlanıyor; web arayüzü ile API üzerinden kullanılabiliyor. 17

Sunum biçimi burada belirleyici. Açık ağırlıklı modeller, gerekli teknik beceriye ve hesaplama kaynağına sahip kullanıcılar tarafından zaten değiştirilebilir ve çalıştırılabilir. Barındırılan ürün ise modelin indirilmesi, değiştirilmesi ve yerelde sunulması yükünü ortadan kaldırarak erişimi daha doğrudan hâle getiriyor. 37

TechCrunch’ın testlerde bildirdiği çıktılar

TechCrunch, ücretsiz bir web hesabının kısa sürede oluşturulabildiğini ve barındırılan modelin ana akım sistemlerin genellikle reddedeceği taleplere yanıt verdiğini bildirdi. Haberde yer alan çıktılar arasında şunlar bulunuyor:

• Kayıtlı Chrome parolalarını çıkarmaya yönelik Python kodu.
• Tehlikeli bir insan patojeninin ev ortamında kültürlenmesine dair ayrıntılı bir protokol. 7

Bu örnekler, tartışmanın yalnızca zararsız güvenlik eğitimiyle sınırlı olmadığını gösteriyor. Erişilebilir bir çevrim içi arayüzün, kimlik bilgisi hırsızlığı ve biyolojik zarar bakımından risk taşıyan içerikler üretebildiğine işaret ediyor. 7

Şirketin kırmızı takım gerekçesi

Abliteration.ai’nin savı, çift kullanımlı teknolojilerde sık görülen bir yaklaşım: Savunma ekiplerinin açıkları bulup kapatabilmesi için saldırgan davranışları gerçeğe yakın biçimde modellemesi gerekir. Bir banka, havayolu şirketi veya kritik altyapı kuruluşunda yetkili güvenlik testi yapan ekiplerin; savunmaların istismar geliştirme, zararlı yük üretimi, kötü niyetli otomasyon ya da çok aşamalı saldırı iş akışlarına karşı dayanıklılığını ölçmesi gerekebilir. Şirketin yaklaşımına göre, yapay zekâ asistanı her aşamada reddederse gerçekçi yetkili testlerde daha sınırlı kalır. 47

Yetkili sızma testleri, zararlı yazılım analizleri, CTF yarışmaları ve güvenlik araştırmaları; denetimli ve izinli bağlam dışında tehlikeli olabilecek teknikleri içerebilir. Sorun, aynı desteğin saldırganların da işine yarayabilmesi. 24

Eleştirilerin odağında ne var?

Barındırılan erişim kötüye kullanım eşiğini düşürebilir

Ana endişe, reddetme korumaları kaldırılmış modellerin teknik olarak var olabilmesi değil; açık ağırlıklı modeller zaten uzman kullanıcıların değişiklik denemesine olanak tanıyor. Endişe, tarayıcı veya API üzerinden erişilen bir hizmetin, kullanıcıların model ağırlıklarını ve hesaplama altyapısını kendilerinin yönetmesine gerek kalmadan potansiyel olarak zararlı yeteneklere erişimi kolaylaştırması. 37

“Yetenekler korundu” iddiası bağımsız olarak kanıtlanmış değil

Şirket, ağırlık düzeyindeki değişikliklerin modelin kodlama ve siber yeteneklerini koruduğunu söylüyor. Fakat reddetme davranışını değiştirmek üzere ağırlıklara müdahale edilmesi, diğer öğrenilmiş davranışları da etkileyebilir. Sağlanan kanıtlar; yetenek, güvenilirlik veya başka davranışların değişmeden kaldığını kesinleştiren bağımsız ve kapsamlı bir karşılaştırmalı değerlendirme sunmuyor. 1315

Bir istemden niyet çıkarmak zor

İstismar kodu veya saldırı zinciri yardımı isteyen biri, izinli bir güvenlik değerlendirmesi yürütüyor da olabilir; gerçek bir sızmaya hazırlanıyor da. TechCrunch’ın bildirdiği parola ve patojenle ilgili çıktılar, yalnızca kullanıcının beyanına bakarak meşru niyeti güvenilir biçimde ayırt etmenin neden zor olduğunu ortaya koyuyor. 7

Güvence tartışması: Tarama, doğrulama ve hesap verebilirlik

TechCrunch haberi, test edilen erişim yolunda güçlü erişim kontrollerinin belirgin olmadığını gösteriyor: Gazeteciler kısa sürede hesap oluşturup sisteme tarayıcı üzerinden ücretsiz erişti. 7

Bununla birlikte, sağlanan habercilik şirketin güncel ve tüm kontrol setini ortaya koymuyor; dolayısıyla belirli önlemlerin kesin olarak bulunmadığını söylemek mümkün değil. Yine de şu sorular yanıt bekliyor:

• Zararlı faaliyet sınıflandırıcıları: Hizmet, yüksek riskli faaliyetler için istemleri veya çıktıları tarıyor mu?
• Müşteri kimlik doğrulaması: Kullanıcılar gerçek ve hesap verebilir kimliklerle güvenilir biçimde ilişkilendiriliyor mu?
• KYC benzeri kayıt süreci: Erişim, incelenmiş kurumlarla veya yetkili güvenlik uzmanlarıyla mı sınırlandırılıyor?
• İzleme ve yaptırım: Kötüye kullanımı saptama, ihlalleri inceleme ve erişimi iptal etme mekanizmaları var mı?

Bu önlemler çift kullanım sorununu tamamen çözmez. Buna karşılık, hesap verebilir ve yetkili güvenlik testleri için bir yol bırakırken anonim veya fırsatçı kötüye kullanımı zorlaştırabilir.

Sonuç

Abliteration.ai, model değiştirme tekniğini barındırılan bir ürüne dönüştürüyor: Şirket, siber güvenlik ve ajan testleri için GLM-5.3 tabanlı, reddetme davranışı kaldırılmış bir türev sunuyor. 17 Kırmızı takım kullanımına ilişkin gerekçesi anlaşılabilir olsa da TechCrunch’ın bildirdiği test sonuçları, ürünün yalnızca teorik bir güvenlik riski yaratmadığını gösteriyor. 7

Belirleyici konu yönetişim. Standart modellerin reddettiği türden yardımı vermek üzere tasarlanan bir hizmetin güvenlik gerekçesi, kullanıcıların savunma amaçlı olduklarını söylemesinden çok; doğrulanabilir erişim kontrollerine, anlamlı risk taramasına ve hesap verebilirliğe dayanıyor.