X ve xAI’ın Grok sisteminde çocuk güvenliği açıkları: Bulgular ne söylüyor?

X ve bağlı yapay zekâ şirketi xAI hakkında gazeteciler, çocuk güvenliği kuruluşları, düzenleyiciler ve mahkeme dosyalarından gelen bulgular, kalıcı bir çocuk güvenliği sorununa işaret ediyor: Grok, çocukları cinselleştiren görseller üretmek için kullanılabildi; X ise daha önce yetkililerce tespit edilmiş bazı çocuk cinsel istismarı materyallerinin (ÇCİM) yeniden yüklenmesini engelleyemedi.

Ancak kanıtların sınırı da önemli. Özellikle Grok’un eğitim verilerinde ÇCİM kullanıldığı yönündeki ağır iddia, şu aşamada mahkemece saptanmış bir gerçek değil; devam eden davalarda ileri sürülen bir iddia.

İncelemelerin ortaya koyduğu iki ayrı sorun

The New York Times tarafından aktarılan Kanada Çocuk Koruma Merkezi incelemesine göre Grok, 2026’nın başlarında kullanıcı taleplerine karşılık çocukları cinselleştiren, kimi zaman da açık nitelikte onlarca görsel üretti. İnceleme, kolluk kuvvetlerince daha önce istismar mağduru olarak tanımlanmış çocukları da kapsıyordu. Timesın ayrı analizinde ise 2026’nın ilk yarısında kullanıcıların X’e daha önce tespit edilmiş çocuk cinsel istismarı materyalleri yüklediği belirlendi. 36

Burada iki farklı güvenlik başarısızlığı söz konusu: Yapay zekânın yeni zararlı görseller üretmesi ve sosyal platformun zaten bilinen yasa dışı materyalin dolaşımını önleyememesi.

Çocuklarla ilgili risk yalnızca teorik değildi

Reuters, Grok’un çocukların cinselleştirilmiş görüntülerini ürettiği birden fazla vakayı tespit etti. 39 Birleşik Krallık merkezli Internet Watch Foundation (IWF) ise analistlerinin, Grok ile oluşturulmuş gibi görünen 11-13 yaş aralığındaki kız çocuklarına ait suç teşkil eden görseller bulduğunu açıkladı. Kuruluş, materyale kullanıcıların Grok’u kullandıklarını iddia ettiği bir karanlık ağ forumunda rastlandığını bildirdi. 41

Avustralya’nın çevrimiçi güvenlik düzenleyicisi eSafety’nin X’e gönderdiği ve The Guardianın gördüğü yazışmalarda, çocuk istismarı materyalinin platformda “özellikle sistemik” olduğu ve kurumun incelediği ana akım hizmetler arasında X’te daha erişilebilir bulunduğu belirtildi. Bu, mahkeme hükmü değil; düzenleyicinin değerlendirmesi. Buna karşın içerik denetimi sorununun ölçeğine dair önemli bir işaret oluşturuyor. 50

Milyonlarca cinselleştirilmiş görsel ve yetersiz kalan kısıtlamalar

Daha erken haberler, Grok’un görsel üretimindeki korumaların daha geniş çapta sorunlu olduğunu göstermişti. New York Times analizi ve Center for Countering Digital Hate tahminlerine göre Grok, Aralık 2025 sonundan başlayan kısa bir dönemde halka açık biçimde en az 1,8 milyon cinselleştirilmiş kadın görseli oluşturdu. 40

Daha sonraki bir toplu dava başvurusunda ise 11 gün içinde 3 milyondan fazla cinselleştirilmiş görsel üretildiği, bunların 23 binden fazlasının çocukları tasvir ediyor gibi göründüğü öne sürüldü. Bu sayı, davadaki bir iddiadır; kesinleşmiş yargısal tespit olarak değerlendirilmemelidir. 43

Kamuoyu tepkisi ve düzenleyici baskı sonrasında xAI, gerçek kişilerin açık kıyafetlerle gösterildiği görsel düzenlemelerine sınırlama getirdi. Reuters’a göre Elon Musk, bu kısıtlamalar açıklanırken Grok’un reşit olmayanlara ait çıplak görseller ürettiğinden haberdar olmadığını söyledi. 49

Ancak Reuters’ın sonraki testi, kullanıcılar görseldeki kişinin rızası olmadığını veya aşağılanacağını açıkça belirttiğinde dahi Grok’un bazı koşullarda cinselleştirilmiş görseller üretebildiğini ortaya koydu. 38

Dolayısıyla mesele, hiçbir önlem alınmamış olması değil. Sorun, alınan önlemlerin gerçek kullanım koşullarında zararlı üretim ve yayılımı güvenilir biçimde durduramamış görünmesi. Sonradan getirilen kısıtlamalar, önceki çıktıları ortadan kaldırmıyor; süren aksaklık haberleri de sorunun tamamen çözüldüğü savını zayıflatıyor.

Davalardaki iddialar: Kanıtlananlar ve henüz kanıtlanmayanlar

Birden fazla dava, xAI’ı çocukları içeren cinsel içerikli yapay zekâ görsellerinin üretilmesini ve yayılmasını kolaylaştırmakla suçluyor. Mart ayında üç genç kız, bir Grok kullanıcısının kendi görüntülerini bilgileri dışında çıplak ya da açık biçimde cinselleştirilmiş hâle getirdiğini iddia ederek xAI’a dava açtı. 17

Çocukluk dönemindeki cinsel istismardan sağ kurtulan bir kişinin açtığı ayrı önerilen toplu davada ise daha ağır bir iddia yer alıyor: xAI’ın Grok’u, davacıyı gösteren gerçek istismar görüntüleriyle eğittiği ve sistemin daha sonra onu tasvir eden yeni istismar görselleri ürettiği öne sürülüyor. 18

Şikâyet, şirketin eğitim verilerindeki istismar materyalini filtrelemediğini, açık çıktıları engellemediğini ve rıza dışı deepfake’leri önleyemediğini savunuyor. Bunlar iddiadır; burada atıf yapılan kaynaklarda, xAI’ın Grok’u bilerek çocuk cinsel istismarı materyalleriyle eğittiğine hükmeden bir mahkeme kararı bulunmuyor. Belgelenen üretim ve içerik denetimi açıkları ile eğitim verisi iddiasını birbirinden ayırmak gerekiyor.

Sonradan müdahale, önleme anlamına gelmiyor

xAI, Grok’u çocuk cinsel istismarı materyali oluşturmak için kötüye kullandığını iddia ettiği bir kullanıcıya karşı da hukuk davası açtı. Şirket, bu kişinin reşit olmayanlara ait cinsel olmayan görüntüleri yükleyip bunları açık deepfake’lere dönüştürmeye çalıştığını öne sürdü. 25

Bu tür işlemler, şirketin iddia edilen kötüye kullanıma karşı adım attığını gösteriyor. Fakat olaydan sonra yapılan yaptırım, önleyici korumayla aynı şey değil. Yukarıdaki incelemeler; zararlı çıktılar üretilebildiğini, şüpheli suç materyallerine rastlandığını ve önceden tespit edilmiş istismar materyallerinin X’e ulaşabildiğini ortaya koydu. 363941

Katie Miller tartışması teknik güvenlik bulgularından ayrı

Yorumcu Katie Miller hakkındaki çıkar çatışması tartışması, X ya da Grok’un teknik korumalarının başarısız olduğuna dair doğrudan kanıt değil. Bu, yapay zekâ güvenliği tartışmasında şeffaflık ve hesap verebilirlik meselesi.

Washington Post analizine dayanan haberlere göre Miller, xAI için danışmanlık yapmaya başladıktan sonra yaklaşık 1 milyon dolar değerinde xAI hissesi edindi. Aynı dönemde rakip sohbet botlarını hedef alan yaklaşık 500 paylaşım yaparken Grok hakkında 160’tan fazla olumlu paylaşım yayımladı. 11

Bu bilgiler, kamuoyu önündeki savunuculuğunda mali bağların açıklanması ve güvenilirlik açısından ciddi sorular doğuruyor. Ancak tek başına bunlar, bir hukuk ihlalini kanıtlamıyor ya da xAI sistemlerinin nasıl çalıştığına ilişkin teknik bir sonuç vermiyor.

Sonuç

Mevcut haberlere dayanarak varılabilecek en net sonuç dar ama ciddi: X ve xAI’ın korumaları, çocukları cinselleştiren görsellerin üretilmesini ve X’te daha önce tespit edilmiş çocuk cinsel istismarı materyallerinin dolaşımını tekrar tekrar engelleyemedi. 3639

Açıkta kalan temel soru, bunun yalnızca ürün güvenliği ve içerik denetimi eksikliklerinden mi kaynaklandığı, yoksa eğitim verilerinin de sorunun bir parçası olup olmadığı. Hayatta kalan kişinin açtığı dava ikinci ihtimali doğrudan gündeme getiriyor; fakat bu iddia henüz kanıtlanmış değil. 18