Yapay Zeka Kendi Kendini Sınarken: GPT-5.6'nın Güvenlik Sınavı

Bu yöntem, bir LLM tabanlı otomatik saldırganın, prompt injection ve jailbreak gibi zayıf noktalar için hedef modeli araştırdığı self-play'i kullanır . OpenAI, bu RL destekli yaklaşımın, istismarların vahşi ortamda silah haline getirilmeden önce proaktif bir şekilde keşfedilmesine ve düzeltilmesine yardımcı olduğunu belirtti . Şirket, prompt injection'ı bir 'sınır güvenlik sorunu' olarak tanımlıyor ve yeni prompt injection saldırıları geliştirmek için otomatik kırmızı takımı aktif olarak kullanıyor .

GPT-5.6'nın 700.000 GPU Saatlik Kara Kutu Testi

GPT-5.6 genel kullanıma sunulmadan önce OpenAI, modeli şimdiye kadarki en kapsamlı değerlendirme sürecine tabi tuttu . GPT-5.6 Önizleme Sistem Kartı'nda şu ifade yer alıyor: 'Ayrıca, evrensel jailbreak'leri ve diğer güvenlik açıklarını otomatik olarak bulmak için 700.000 A100e GPU saatinden fazlasını ayırdık' . Bu otomatik test, haftalarca süren insan kırmızı takım çalışmalarını ve harici alan uzmanı değerlendirmelerini tamamladı .

Şirket, bu devasa hesaplama bütçesini, tek seferlik dar çaplı başarısızlıklar yerine genel, sistemsel jailbreak'leri aramak için kullandı . Otomatik kırmızı takım, dağıtımdan sonra bile sürekli çalışacak şekilde tasarlandı; yeni jailbreak'ler raporlandıkça düzeltmeler ve yeniden testler uygulanıyor .

GPT-5.6'nın Risk Değerlendirmeleri: Yüksek ama Kritik Değil

OpenAI'ın Hazırlık Çerçevesi'ne göre, GPT-5.6'nın üç varyantı da (Sol (amiral gemisi), Terra (düşük maliyetli) ve Luna (en hızlı)) hem siber güvenlik hem de biyolojik/kimyasal risk kategorilerinde 'Yüksek' yetenek seviyesinde sınıflandırılıyor . Bu, daha küçük ve daha ucuz modellerin bile bu kategorilerde ilk kez Yüksek eşiğini geçmesi anlamına geliyor .

Ancak hiçbir model 'Kritik' eşiğine ulaşmadı. Dahili siber güvenlik testleri, GPT-5.6 Sol ve Terra'nın güvenlik açıklarını ve istismar parçalarını tanımlayabildiğini, ancak uçtan uca saldırıları otonom olarak gerçekleştiremediğini ortaya koydu . Modellerden hiçbiri yapay zeka kendini geliştirme kategorisinde Yüksek eşiğine ulaşamadı .

Çok Katmanlı Güvenlik Mimarisi

GPT-5.6, OpenAI'ın 'bugüne kadarki en sağlam güvenlik önlemleri' ile donatıldı . Güvenlik mimarisi şunları içeriyor:

• Yüksek riskli talepler için yerleşik model düzeyinde ret mekanizması
• Çıkarım sırasında dahili sinirsel sinyalleri tarayan ve yüksek riskli desenler tespit edildiğinde üretimi anında durdurabilen gerçek zamanlı aktivasyon sınıflandırıcıları
• Siber ve biyoloji kötüye kullanımı için gerçek zamanlı sınıflandırıcılar
• Hesap düzeyinde inceleme ve farklılaştırılmış erişim kontrolü

Bu katmanlı yaklaşım, OpenAI'ın hiçbir tek güvenlik önleminin yeterli olmadığı sonucunu yansıtıyor .

Otomatik Kırmızı Takım (ART) Araştırmacısı Pozisyonu

OpenAI, otomatik kırmızı takım konusundaki dahili kapasitesini aktif olarak geliştiriyor. Şirket, 'Otomatik Kırmızı Takım çalışmalarına liderlik edecek, yapay zeka modelleri ve güvenlik önlemlerindeki hata modlarını ortaya çıkarmak için ölçeklenebilir sistemler kurmaya odaklanacak' bir Araştırmacı, Otomatik Kırmızı Takım (taban maaşı 295.000$ – 445.000$) arıyor . Ayrıca biyogüvenlik ve KBRN (Kimyasal, Biyolojik, Radyolojik, Nükleer) kırmızı takım çalışmalarına liderlik edecek bir Biyogüvenlik Kırmızı Takım Uzmanı (158.000$ – 320.000$) da işe alım yapılıyor .

500.000 Dolarlık Kaggle Yarışması

OpenAI, Kaggle'da 500.000 dolarlık ödül havuzuyla bir Kırmızı Takım Yarışması düzenledi ve bu yarışma, gpt-oss-120b ve gpt-oss-20b adlı açık ağırlıklı modellerine odaklandı . Yarışma, katılımcıları daha önce tespit edilmemiş yeni güvenlik açıklarını keşfetmeye teşvik etti . 500.000 dolarlık bu özel yarışmanın detayları bu analizdeki resmi OpenAI kaynaklarından bağımsız olarak doğrulanamamış olsa da, TechPolicy.Press gibi üçüncü taraf kaynaklar yarışmanın varlığını doğruluyor . GPT-5.6 Sistem Kartı, modelleri Kaggle yarışmalarında değerlendiren 'MLE-Bench Revised'tan bahseder, ancak 500.000 dolarlık ödülden doğrudan bahsetmez.

Düzenleyici Bağlam ve Belirsizlikler

Mevcut kanıtlar, GPT-5.6'nın çok katmanlı bir güvenlik mimarisiyle geldiğini ve OpenAI'ın hazırlık çerçevesinin kendi modellerini sınıflandırdığını doğruluyor . Üçüncü taraf haberler, ABD hükümetinin en yetenekli modellere erişimi etkileyebilecek bir 'bekçilik' (gatekeeping) bağlamında yer aldığına dikkat çekiyor . Bununla birlikte, taranan birincil kaynaklarda İngiltere Yapay Zeka Güvenlik Enstitüsü'nden (UK AI Safety Institute) veya belirli ABD düzenleyici eylemlerinden doğrudan bahsedilmiyor. OpenAI'ın kendi sistem kartı dokümantasyonu, güvenlik sınıflandırmalarını ele alıyor ancak kendi Hazırlık Çerçevesi dışında harici düzenleyici incelemelerin detayına girmiyor .