Nvidia’nın OSAA’sı bir haftada SAFE’i duyurdu

Amaç, ortak savunma istihbaratı oluşturmak. Prompt enjeksiyonu, veri sızıntısı veya kontrolden çıkan bir yapay zekâ ajanı her seferinde münferit bir vaka gibi ele alınmak yerine, tekil hataların daha geniş güvenlik önlemlerine dönüştürülebileceği ortak bir süreç kurulması hedefleniyor.

OSAA tek bir ürün değil, katmanlı bir güvenlik yaklaşımı kuruyor

SAFE, OSAA’nın çalışmalarının yalnızca bir bölümü. İttifak ayrıca yapay zekâ ajanlarının farklı güvenlik katmanlarını hedefleyen, açık kaynaklı ve incelenebilir teknolojileri bir araya getiriyor.

Öne çıkan katkılar şöyle:

• Nvidia: Açık ağırlıklı model aileleri, bir ajanın hangi sistemlere veya verilere erişebileceğini ve neleri yapabileceğini sınırlamayı amaçlayan OpenShell çalışma zamanı kontrolleri, ajan test ve denetim araçları ile veri sızıntısı, prompt enjeksiyonu ve jailbreak risklerini tarayan açık kaynaklı Garak.
• Okta: Ajanların kurumsal uygulamalara daha kontrollü ortamlarda bağlanmasını hedefleyen Cross App Access protokolünü kullanan kimlik ve erişim referans uygulamaları.
• Red Hat: Kurumsal politikaları çalışma zamanı izinleriyle ilişkilendirmeyi ve politikadan kontrole kadar denetlenebilir bir iz oluşturmayı amaçlayan açık kaynaklı asago yönetişim projesi.
• Amazon: Ajan oluşturma ve değerlendirme için açık kaynaklı Strands Agents araç seti ile bir yetkilendirme dili olan Cedar.
• Diğer üyeler: Ajan güvenliğinin yalnızca model taramasından ibaret olmadığını vurgulayan Agent Guard ve Agent Watch gibi kimlik odaklı projeler.

Bu projeler bir arada değerlendirildiğinde kimlik, izinler, ajan çalışma altyapısı, çalışma zamanı davranışı, değerlendirme, veri, yönetişim ve dayanıklılık gibi alanları kapsıyor. Zamanla olgunlaşmaları hâlinde şirketlere yapay zekâ ajanlarını kısıtlamak ve izlemek için ortak bir kontrol seti sağlayabilir; kötü niyetli ya da görev kapsamı dışına çıkan ajanlara karşı savunmayı da kolaylaştırabilirler. Ancak bu sonuç şu an için bir olasılık, kanıtlanmış bir çıktı değil.

OSAA’ya kimler katıldı, kimler yok?

Raporlara göre OSAA, kuruluşundan sonraki ilk hafta içinde 120’den fazla kuruluşu bünyesine kattı. Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat ve Visa öne çıkan katılımcılar arasında gösteriliyor. Amazon ise daha yeni katılan üyelerden biri olarak aktarılıyor.

İttifak, 24 Temmuz’da yayımlanan ve ABD’li politika yapıcıları açık ağırlıklı yapay zekâ modellerine geniş veya erken kısıtlamalar getirmemeye çağıran açık mektubun ardından geldi. Başlangıçta Nvidia, Microsoft, Meta, IBM, Dell, Palantir ve Hugging Face’in de aralarında bulunduğu 25 şirket mektubu destekledi. Mektupta, indirilebilir modellerin kısıtlanmasının rekabeti zayıflatabileceği ve Washington ulusal güvenlik yaklaşımını tartışırken kullanıcıları Çin yapay zekâ sistemlerine yöneltebileceği savunuldu.

Black Hat haberlerinin yayımlandığı sırada Anthropic, OpenAI ve Google’ın OSAA’da yer almaması dikkat çekiyordu. Ancak politika mektubuyla ilgili tablo daha karmaşık: Sonraki imzacı listesine ilişkin haberler birbiriyle örtüşmüyor. Bazı kaynaklar OpenAI ve Google’ın daha sonra listeye eklendiğini söylerken, diğerleri bu şirketleri ilk grupta yer almayan kuruluşlar arasında gösteriyor. Mevcut kaynaklar, bu şirketlerin neden OSAA’ya katılmadığını açıklamıyor; dolayısıyla yokluklarına bir motivasyon atfetmek mümkün değil.

Bu hız neden önemli?

OSAA’nın temel savı, açıklık ile güvenliğin birbirinin zıddı olmak zorunda olmadığı. Açık modeller, araçlar, değerlendirmeler ve paylaşılan olay dersleri; daha fazla savunmacının hataları incelemesine, güvenlik açıklarını yeniden üretmesine ve çözümleri uyarlamasına imkân verebilir. SAFE ise olayların toplanması ve analizinde gizliliği korurken, genelleştirilebilir dersleri daha geniş biçimde paylaşmaya çalışıyor.

İttifakın farklı sektörlerden üyeleri bir araya getirmesi de model geliştiricileri, bulut ve altyapı sağlayıcıları, kimlik uzmanları, güvenlik şirketleri ve kurumsal kullanıcılar arasında ortak arayüzlerin ve uygulamaların oluşmasına katkı sağlayabilir. Bu çabalar olgunlaşırsa açık yapay zekâ sistemlerinin değerlendirilmesi, kontrol edilmesi ve sorumlu biçimde kullanıma alınması kolaylaşabilir.

Bu ihtimal, özellikle ABD’li politika yapıcıların Çin’deki yapay zekâ laboratuvarlarına karşı nasıl bir yaklaşım benimseyeceğini tartıştığı dönemde, açık ağırlıklı yapay zekâyı Amerikan rekabet gücü meselesi olarak sunan argümanı destekleyebilir. Ancak OSAA’nın ABD’nin rekabet gücünü artırdığı veya sistemik yapay zekâ riskini azalttığı henüz gösterilmiş değil.

Şimdilik ölçülebilen daha dar ve somut başarı şu: 120’den fazla üyeye ulaşan bir koalisyon, açık yapay zekâ savunuculuğundan koordineli yapay zekâ güvenlik raporlaması için kamuya açık bir taslağa geçti. Üyeleri de zaman içinde daha birlikte çalışabilir bir savunma katmanı oluşturabilecek araçlara katkı sunuyor.