Mindgard Araştırmacıları GPT-5.4'ü Nasıl Atlattı? OpenAI'in En Yeni Modeli Şiddet ve Cinsel İçerikli Görseller Üretebiliyor

• "Korkunç bir cinayet mahalli": Üzerinde kısa bir üst ve şort bulunan, yüzü ve vücudu kanlar içinde, cinsel şiddet izleri taşıyan genç bir kadın.
• "Korku ve bağlanmışlık içinde terk edilmiş": Çıplak, kirli bir odada bağlanmış ve ağzı tıkanmış, korkmuş görünen genç bir kadın.
• Kafasında büyük bir yara bulunan, silahlı adamlar tarafından çevrelenmiş şekilde yerde yatan bir adam.
• Cinsel pozlar veren, çıplaklık ve cinselleştirilmiş duruşlar sergileyen ek görseller.

Mindgard'ın kurucusu Peter Garraghan, çıktıları "çok tiksindirici, bazen cinselleştirilmiş, bazen de ikisi bir arada" olarak tanımladı . Testi yöneten araştırmacı Jim Nightingale ise sistemin ürettikleri karşısında "sarsıldığını ve gözyaşlarına boğulduğunu" söyledi .

Açık Nasıl Çalışıyor?

Bu yöntem, bir tür çekişmeli komut (adversarial prompting) olarak adlandırılıyor. Mindgard, yaygın olarak paylaşılan ve komedi amaçlı zararsız bir komutu alarak, talimat metninde küçük değişiklikler yaptı. Can alıcı detay şu: Değiştirilen komut, rahatsız edici konuyu açıkça belirtmiyordu. Yapay zeka, masum görünen bir talimattan yola çıkarak, kanlı ve cinselleştirilmiş içeriği "kendi isteğiyle" üretti .

Bu bulgu, Mindgard'ın daha önceki araştırmalarına dayanıyor. Şirket daha önce, ChatGPT'nin görsel güvenlik önlemlerinin bellek manipülasyonu yoluyla da aşılabileceğini göstermişti. Bu yöntemde, kullanıcıya özel bellek ve sistem komutu bağlamı, herhangi bir arka uç erişimi veya model değişikliği olmadan güvenlik filtrelerini devre dışı bırakıyordu .

OpenAI'in Tepkisi

Mindgard, Mayıs 2026'da OpenAI'i bu güvenlik açığı hakkında uyardı. Şirket ilk etapta yalnızca otomatik bir yanıtla karşılık verdi . BBC'nin konuyu sormasının ardından OpenAI, "bu tür komutlara karşı ek güvenlik önlemleri aldığını" açıkladı . Şirket, birden fazla katmandan oluşan görsel güvenlik korumalarını otomatik sistemler ve insan incelemesiyle birleştirdiğini belirtti .

Ancak Mindgard, OpenAI'in düzelttiğini söylediği açığı, komutların ifadelerinde ufak değişiklikler yaparak hâlâ aynı rahatsız edici içerikleri üretebildiklerini tespit etti .

Daha Geniş Güvenlik Endişeleri

Mindgard'ın keşfi, sektör genelinde belgelenen daha büyük bir sorunun parçası :

• Kedi-fare oyunu: Yapay zeka güvenlik uzmanı Dr. Rumman Chowdhury, bu zorluğu "dağ gibi" olarak nitelendirdi. Koruma önlemleri geliştikçe, onları aşma yöntemleri de daha karmaşık hale geliyor.
• Modeller anlayıştan yoksun: Yapay zeka sistemleri, insanlar gibi niyeti, bağlamı veya ahlakı kavrayamaz. Bu da incelikli kuralların uygulanmasını son derece zorlaştırıyor.
• Eğitim verisinin yansıması: Araştırmacı Nightingale, çıktıların internetteki gerçek görsellerle ve eğitim verileriyle bağlantılı olduğunu belirtti.
• Önceki güvenlik açığı: Mindgard, 2026'nın başlarında ChatGPT'nin, yüz değiştirme yöntemiyle gerçek kişilerin çıplak deepfake'lerini üretmek için kandırılabileceğini göstermişti .
• Sektör genelinde yaygınlık: Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (AI Security Institute) kısa süre önce, test ettiği her yapay zeka sisteminde güvenlik önlemlerini aşan yöntemler buldu . OpenAI'in GPT-5 modelinin, duyurulan güvenlik iyileştirmelerine rağmen hâlâ homofobik hakaretler üretebildiği daha önce tespit edilmişti .
• Politika boşluğu: OpenAI'in kendi model kartı politikaları, erotik, yasa dışı cinsel içerik ve aşırı vahşet görüntülerini, bilimsel, tarihi veya sanatsal bağlamlar dışında yasaklıyor. Ancak bu incelikli sınırları büyük ölçekte uygulamak, hiçbir şirketin tam olarak çözemediği bir mühendislik sorunu olmaya devam ediyor .