Yapay zekâ deepfake uygulamalarının çocuklar için yarattığı 7 kritik tehlike

Bir yapay zekâ sohbet aracının, kadın ve çocukların gerçek fotoğraflarını yükleyerek dijital ortamda “soyan” görüntüler üretmeye izin verdiği ve yalnızca 11 günde yaklaşık 3 milyon cinsel içerikli görsel oluşturulduğu bildirildi . Bu örnek, zararlı içerik üretiminin ne kadar kolay ölçeklenebildiğini ortaya koyuyor.

2. İstismar, okul çevresinde ve akranlar arasında yayılabiliyor

Hong Kong’da Hong Kong Üniversitesi’nde (HKU) hukuk eğitimi alan bir erkek öğrencinin, ücretsiz bir yapay zekâ yazılımını kullanarak 20 ila 30 kadın hakkında yaklaşık 700 rıza dışı pornografik görüntü oluşturduğu iddia edildi. Hedefler arasında üniversiteden ve ilkokuldan sınıf arkadaşları ile ortaöğretim öğretmenlerinin bulunduğu bildirildi .

PCPD, çocukların ve gençlerin de maruz kaldıkları zararın boyutunu tam olarak anlamadan akranları hakkında kötü amaçlı deepfake içerikler oluşturup paylaşabileceği uyarısında bulunuyor . Başka bölgelerdeki okulların da öğrencilerin sahte ve açık saçık görüntüleriyle şantaja uğradığı bildirildi .

Bu nedenle konu yalnızca yetişkinlerin ürettiği içeriklerle sınırlı değil; okul grupları, mesajlaşma uygulamaları ve sosyal medya üzerinden akran zorbalığına dönüşebiliyor.

3. Çocuk mağdurlarda ağır ve uzun süreli psikolojik zarar oluşabiliyor

Yapay zekâ üretimi görüntü temelli cinsel istismara maruz kalan çocuklar; aşağılanma, utanç, öfke, ihlal edilmişlik duygusu ve kendini suçlama yaşayabiliyor. Bu duygular devam eden psikolojik sıkıntıya, okuldan ve aileden uzaklaşmaya, güven ilişkileri kurmakta zorlanmaya yol açabiliyor . Bazı vakalarda kendine zarar verme ve intihar düşünceleri de görülebiliyor.

İçeriğin okul çevresinde veya akran gruplarında her yeniden paylaşılması travmayı büyütüyor; mağdur çocuk alay, tehdit ve tacizle tekrar tekrar karşılaşabiliyor . Çocukların bilişsel gelişimi henüz tamamlanmadığı ve deepfake içerikleri ayırt etmekte yetişkinlere göre daha fazla zorlanabildikleri için riskleri de daha yüksek .

4. Yapay zekâ üretimi çocuk cinsel istismarı materyali hızla artıyor

İnternet İzleme Vakfı (IWF), 2025 yılında gerçekçi çocuk cinsel istismarı gösterdiği değerlendirilen 8.029 yapay zekâ üretimi görsel ve video inceledi . Vakfa göre bu içeriklerin sayısı hem dark web’de hem de ana akım ticari platformlarda istikrarlı biçimde artıyor .

İçeriklerin çok büyük ölçekte üretilip dağıtılması, mevcut platform denetim ve moderasyon sistemlerinin üzerindeki yükü artırıyor. Gerçek bir çocuğu göstermese bile çocuk cinsel istismarını tasvir eden yapay zekâ üretimi materyaller, çocukların cinselleştirilmesini ve istismarın normalleştirilmesini teşvik edebiliyor.

5. Hong Kong’da yalnızca üretim eylemi için önemli bir hukuk boşluğu bulunuyor

Hong Kong’daki mevcut düzenlemelerde, yapay zekâ ile rıza dışı mahrem görüntü üretmek — içerik paylaşılmadığı veya paylaşmakla tehdit edilmediği sürece — özel olarak suç sayılmıyor. Mevcut hükümler esas olarak görüntünün yayımlanmasını veya yayımlama tehdidini kapsıyor .

HKU vakasındaki mağdurlar, hukuki görüşmelerin bu boşluğu doğruladığını ve görüntüleri oluşturan öğrenciye karşı cezai başvuru imkânının sınırlı kaldığını belirtti . Hong Kong Güvenlik Bürosu, cinsel suçlara ilişkin yasaların deepfake pornografiyi de kapsayacak şekilde genişletilmesi için kamu istişaresi başlatacağını duyurdu . Ancak 2026 ortası itibarıyla ilgili yasa henüz değiştirilmiş değil.

Hong Kong Barosu da sorunu mevcut hukuk araçlarıyla sınırlı biçimde ele almak yerine “hedefe yönelik bir yasa” çıkarılması çağrısında bulundu .

6. Ebeveynler ve çocuklar riskler konusunda yeterince bilinçli değil

PCPD, Hong Kong’da ebeveynler ve çocuklar arasında deepfake risklerine ilişkin genel farkındalığın yetersiz olduğunu ve çocukları ilgilendiren kötü amaçlı deepfake vakalarının hızla arttığını belirtiyor .

Bir başka risk de “sharenting”, yani ebeveynlerin çocuklarının fotoğraf ve videolarını çevrim içi ortamda aşırı paylaşması. Sosyal medyada herkese açık biçimde bulunan bu görüntüler, kötüye kullanım için ham madde hâline gelebiliyor .

PCPD, Aralık 2025’te okullar ve ebeveynler için “Yapay Zekâ Deepfake’lerinin Kötüye Kullanımı” başlıklı bir araç seti yayımladı. Rehber, çocukları korumaya ve deepfake vakalarının nasıl ele alınacağına ilişkin pratik öneriler sunuyor .

7. İnternete yayılan sahte mahrem görüntüleri tamamen kaldırmak neredeyse imkânsız

Sahte mahrem görüntüler bir kez paylaşıldığında, bunların internetten tamamen silinmesi son derece zorlaşıyor . İçerik farklı hesaplara, kapalı gruplara veya başka platformlara yeniden yüklenebiliyor.

Bu kalıcılık, mağdurun görüntülerin ileride yeniden ortaya çıkabileceği endişesiyle yaşamasına neden oluyor. Böylece zarar, ilk paylaşımın çok ötesine uzanıyor.

Hong Kong’da hangi adımlar atılıyor?

PCPD, HKU’daki olayla ilgili cezai soruşturma başlattı . Kurum ayrıca okullar ve ebeveynler için rehber yayımlayarak farkındalık çalışmalarını sürdürüyor .

Hong Kong hükümeti de mevcut hukuk çerçevesini gözden geçiriyor. Güvenlik Bürosu, cinsel suçlara ilişkin mevzuatın deepfake pornografiyi kapsayacak şekilde genişletilmesi için kamu istişaresi planlıyor .

Hong Kong’daki gizlilik otoritesi ile yaklaşık 60 uluslararası muadili, yapay zekâ ile üretilen zararlı ve rıza dışı görüntülere ilişkin ortak bir uyarı yayımladı. Açıklamada özellikle çocukları hedef alan içeriklerin yarattığı risklere dikkat çekildi .

Ebeveynler ve okullar ne yapabilir?

PCPD’nin önerileri doğrultusunda:

• Çocukların fotoğraf ve videolarını paylaşmadan önce görüntünün kimler tarafından görülebileceği ve nasıl kötüye kullanılabileceği düşünülmeli .
• Okullar, öğrencilere deepfake üretmenin ve paylaşmanın etik ve hukuki sonuçlarını anlatmalı .
• Çocuklara, internette gördükleri görüntülerin gerçek olmayabileceğini değerlendirebilecekleri dijital okuryazarlık becerileri kazandırılmalı .
• Ebeveynler, suçlayıcı bir dil kullanmadan çocuklarla çevrim içi güvenlik hakkında düzenli ve açık konuşmalar yapmalı .
• Bir çocuk sahte cinsel görüntüyle hedef alındığında içerik yeniden paylaşılmamalı; kanıtlar güvenli biçimde saklanarak okul yönetimine, ilgili platforma ve yetkili makamlara başvurulmalı.

Deepfake görüntünün sahte olması, mağdur üzerindeki zararı gerçek dışı hâle getirmiyor. Çocukların güvenliği için teknoloji kadar hızlı farkındalık çalışmaları, okul politikaları ve kapsamlı hukuki koruma da gerekiyor.