Gaussian Probing: Yapay Zeka Güvenliğinde Devrim Yaratan, Çocuk İstismarı Materyali (CSAM) Üreten Modelleri Görüntü Üretmeden Tespit Eden Teknik

MIT, Boston Üniversitesi ve çocuk güvenliği alanında faaliyet gösteren kar amacı gütmeyen kuruluş Thorn'daki araştırmacılar, Gaussian Probing adı verilen bir teknik geliştirdi. Bu teknik, üretken bir AI modelinin çocuk istismarı materyali (CSAM) üretecek şekilde ince ayarlanıp ayarlanmadığını - tek bir görüntü bile oluşturmadan - belirleyebiliyor . Uluslararası Makine Öğrenimi Konferansı'ndaki "İyilik için Güvenilir AI" çalıştayında öne çıkan bir makale olarak sunulan bu yöntem, o kadar zararlı ki test edilmesi bile yasa dışı olan içerikler için AI güvenlik denetiminde bir atılım niteliği taşıyor .

Gaussian Probing Nedir?

Gaussian Probing, üretken bir AI modelinin CSAM üretmek üzere ince ayar (fine-tuning) yoluyla özelleştirilip özelleştirilmediğini tespit eden, üretime dayalı olmayan (non-generative) bir denetleme yöntemidir . Teknik, özellikle Düşük Seviyeli Uyarlama (LoRA) üzerine odaklanıyor. LoRA, kullanıcıların Stable Diffusion gibi bir temel modeli tüm modeli yeniden eğitmeden belirli bir görev için uzmanlaştırmasına olanak tanıyan popüler ve verimli bir ince ayar yöntemidir . Kötü niyetli aktörler, yüksek kaliteli CSAM üretebilen model varyantları oluşturmak için LoRA adaptörlerinden yararlanmıştır .

Yöntem, uyarlanmış modelin bir çıktı görüntüsü olarak ne ürettiğini sormak yerine, adaptörün modelin difüzyon sürecinin yerel Gaussian durum uzayındaki iç yanıt profilini nasıl değiştirdiğini sorguluyor .

Nasıl Çalışır?

Yöntem, bir LoRA adaptörünün modelin iç temsillerini işlevsel olarak nasıl bozduğunu ölçerek çalışıyor. Spesifik olarak, rastgele Gaussian gizli durumlarından oluşan bir referans kümesini modelin difüzyon sürecinden geçiriyor ve gizli aktivasyonların nasıl değiştiğini gözlemliyor .

Temel matematiksel nesne, bir dizi Gaussian gürültü girdisi için difüzyon zaman adımları boyunca ortalama gizli temsili hesaplayan ve bunları adaptörün etkisini karakterize eden bir özellik vektöründe toplayan bir "prob işlevselidir" . Daha sonra bu özellik vektörleri üzerinde, zararlı (CSAM konusunda uzmanlaşmış) adaptörleri zararsız olanlardan ayırt etmek için bir sınıflandırıcı eğitiliyor.

Başyazar ve MIT yüksek lisans öğrencisi Vinith Suriyakumar'ın açıklamasıyla: "Daha önce bunu ölçmenin hiçbir yolu yoktu. Bu, bazı insanların istismar ettiği büyük bir kör noktaydı" .

Testlerde %100 Doğruluk

Testlerde, Gaussian Probing prosedürü, CSAM üretmek üzere özelleştirilmiş model varyasyonlarını yüzde 100 doğrulukla tespit etti . Araştırmacılar, Gaussian Probing'in, rastgele eğitim yapay öğelerine güvenebilecek ham ağırlık tabanlı temel yöntemlerin aksine, zararlı uzmanlaşmayı zararsızdan güvenilir bir şekilde ayırt ettiğini buldu .

Teknik, gerçekçi kısıtlamalar altında da etkili olduğunu kanıtlayarak, kullanıcıların LoRA adaptörleri yüklediği Hugging Face veya Civitai gibi platformlarda ölçeklenebilir bir şekilde kullanılabileceğini gösteriyor .

Araştırma, MIT yüksek lisans öğrencisi Vinith Suriyakumar ve doçentler Ashia Wilson ile Marzyeh Ghassemi'nin yanı sıra Thorn'dan Dr. Rebecca Portnoff'un da aralarında bulunduğu araştırmacıların iş birliğiyle gerçekleştirildi .

Gaussian Probing'in Çözdüğü Yasal Paradoks

Standart AI güvenlik denetimi, bir modele zararlı girdilerle istem vermek ve çıktıları incelemek gibi basit bir sürece dayanır. CSAM söz konusu olduğunda bu yasal olarak imkansızdır. Niyet ne olursa olsun, bu tür içerikleri üretmek ABD'de yasa dışıdır .

Gaussian Probing, bu paradoksu, hiçbir çıktı görüntüsü üretmeden, modelin kapasitesini yalnızca iç aktivasyonlara dayanarak değerlendirerek çözüyor. MIT duyurusunda belirtildiği gibi: "Teknikleri, bir modele CSAM ile ince ayar yapıldığında iç işleyişinin nasıl değiştiğini inceliyor - herhangi bir görüntü görmeye gerek kalmadan" .

Bu yöntem ayrıca, test sırasında herhangi bir CSAM görüntüsünün görüntülenmesini gerektirmediği için güvenlik araştırmacılarını travmatik materyale maruz bırakma gibi etik sorunu da ortadan kaldırıyor .

AI Kaynaklı CSAM'ın Büyüyen Krizi

Bu teknik, AI kaynaklı CSAM'ın ölçeğinin patladığı bir dönemde ortaya çıktı. Yetkili kaynaklardan alınan önemli istatistikler şunlardır:

• NCMEC (Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi), 2025'te 1,5 milyondan fazla AI kaynaklı CSAM raporu aldı; bu, 2024'ün tamamındaki 67.000 rakamına göre çarpıcı bir artış . Bu, kabaca yıllık 22 katlık bir artış anlamına geliyor.
• Yalnızca 2025'in ilk yarısında, NCMEC 485.000 AI ile ilgili CSAM raporu aldı ve yaklaşık 35 teknoloji şirketi artık bu tür materyalleri raporluyor .
• İnternet İzleme Vakfı (IWF), 2025'te 8.029 AI kaynaklı görüntü ve videoyu gerçekçi çocuk cinsel istismarı olarak değerlendirdi . AI CSAM, toplam rapor edilen materyalin nispeten küçük bir kısmını oluşturmaya devam etse de, ölçek, karmaşıklık ve erişilebilirlik açısından "yaygın ve büyüyen" olarak tanımlanıyor .
• Avrupa Parlamentosu, 2025'te AI kaynaklı CSAM'da "muazzam bir artış" olduğunu ve birincil vektörün açık kaynaklı metinden görüntüye modeller olduğunu kaydetti .
• NCMEC, yalnızca 2023 ile 2024 arasında üretken AI içeren raporlarda %1.325'lik bir artış bildirdi .

Gerçekçi, tam hareketli AI video içeriği yaygın hale geldi. 2025'te IWF, 3.443 AI kaynaklı çocuk cinsel istismarı videosu tespit etti ve bunların %65'i Birleşik Krallık mevzuatına göre en ciddi materyal olan Kategori A kapsamında değerlendirildi .

Bunun AI Güvenliği ve Çocuk Koruma İçin Anlamı

Gaussian Probing, AI güvenlik araç setindeki kritik bir boşluğu dolduruyor. AI kaynaklı CSAM'a karşı mevcut savunmalar öncelikle girdi filtreleme, çıktı filtreleme ve eğitim verisi taramasına dayanıyor . Ancak araştırmaların gösterdiği gibi, "bir kavramı yeniden tanıtmak, filtreleme mükemmel olsa bile ince ayar yoluyla mümkündür," bu da mevcut filtreleme yöntemlerinin "kapalı ağırlıklı modellere sınırlı koruma ve açık ağırlıklı modellere ise hiçbir koruma sağlamadığı" anlamına geliyor .

Platformların, zararlı ince ayarlı modelleri geniş çapta dağıtılmadan önce tespit etmelerini sağlayarak Gaussian Probing, Hugging Face ve Civitai gibi platformların yasa dışı içerik üretmeye başvurmadan yüklenen LoRA adaptörlerini taramasına olanak tanıyabilir .

Şimdilik bu teknik, üretimin yasal olarak kısıtlandığı yüksek riskli alanlarda model güvenliğini değerlendirmek için ölçeklenebilir, üretim gerektirmeyen bir alternatif sunuyor - AI kaynaklı CSAM krizi hızlanırken alanın çok ihtiyaç duyduğu bir araç.