7 Bahaya Deepfake AI yang Mengancam Anak-Anak di Hong Kong

Skalanya juga mengkhawatirkan. Sebuah chatbot AI dilaporkan memungkinkan pengguna mengunggah foto perempuan dan anak-anak, lalu membuat versi digital seolah-olah mereka tidak mengenakan pakaian. Dalam 11 hari, chatbot tersebut disebut telah menghasilkan sekitar 3 juta gambar seksual .

2. Pelaku bisa berasal dari lingkungan sekolah

Kasus di Universitas Hong Kong (HKU) menunjukkan bahwa ancaman ini dapat muncul dari lingkaran pertemanan sendiri. Seorang mahasiswa laki-laki jurusan hukum diduga menggunakan perangkat lunak AI gratis untuk membuat sekitar 700 gambar pornografi tanpa persetujuan terhadap 20–30 perempuan. Mereka termasuk teman kuliah, teman sekolah dasar, dan guru sekolah menengahnya .

PCPD memperingatkan bahwa anak-anak dan remaja dapat menjadi pembuat sekaligus penyebar deepfake berbahaya terhadap teman sebaya, sering kali tanpa memahami seberapa serius dampaknya maupun konsekuensi hukumnya . Di wilayah lain, sejumlah sekolah juga dilaporkan mengalami pemerasan menggunakan deepfake eksplisit yang menampilkan siswa .

3. Dampak psikologis terhadap korban bisa sangat berat

Korban kekerasan seksual berbasis gambar yang dibuat AI dapat mengalami rasa malu, terhina, marah, dilanggar, dan menyalahkan diri sendiri. Dampaknya bisa berupa tekanan emosional berkepanjangan, menarik diri dari sekolah dan keluarga, serta kesulitan membangun hubungan yang dilandasi kepercayaan .

Dalam sejumlah kasus, tekanan tersebut dapat berujung pada tindakan menyakiti diri sendiri dan pikiran untuk bunuh diri. Trauma juga semakin berat setiap kali gambar dibagikan atau dibicarakan di lingkungan sekolah dan kelompok pertemanan . Anak-anak lebih rentan karena kemampuan kognitif mereka masih berkembang dan mereka cenderung lebih kesulitan mengenali deepfake .

4. Materi eksploitasi seksual anak buatan AI meningkat

Internet Watch Foundation (IWF), organisasi yang memantau dan membantu menghapus konten eksploitasi seksual anak di internet, menilai 8.029 gambar dan video buatan AI pada 2025 sebagai materi yang menampilkan eksploitasi seksual anak secara realistis .

Jumlahnya terus meningkat, dan konten tersebut ditemukan baik di jaringan gelap maupun platform komersial arus utama di internet terbuka . Produksi dalam skala besar ini berpotensi membebani sistem moderasi yang sudah ada.

5. Hong Kong masih memiliki celah hukum

Berdasarkan hukum Hong Kong yang berlaku dalam konteks sumber ini, sekadar membuat gambar intim buatan AI tanpa menyebarkannya belum menjadi tindak pidana khusus. Ketentuan yang ada terutama mencakup publikasi atau ancaman untuk memublikasikan gambar intim tanpa persetujuan .

Korban dalam kasus deepfake HKU mengatakan bahwa konsultasi hukum mengonfirmasi celah tersebut. Akibatnya, mereka tidak memiliki jalur pidana yang jelas untuk menuntut mahasiswa yang diduga membuat gambar-gambar itu, selama gambar tersebut belum disebarkan .

Biro Keamanan Hong Kong telah menyatakan akan mengadakan konsultasi publik untuk memperluas ketentuan tindak pidana seksual agar mencakup pornografi deepfake . Asosiasi Pengacara Hong Kong juga menyerukan aturan khusus yang secara langsung menangani masalah ini . Namun, berdasarkan informasi yang tersedia hingga pertengahan 2026, perubahan hukum tersebut belum disahkan.

6. Kesadaran orang tua dan anak masih rendah

PCPD menilai orang tua dan anak-anak di Hong Kong secara umum belum cukup memahami risiko deepfake, sementara kasus penyalahgunaan yang melibatkan anak meningkat dengan cepat .

Salah satu sumber risiko berasal dari kebiasaan yang dikenal sebagai sharenting, yaitu orang tua terlalu sering membagikan foto atau video anak di internet. Materi yang tampak biasa ini dapat disalahgunakan sebagai bahan untuk membuat deepfake .

Pada Desember 2025, PCPD menerbitkan Abuse of AI Deepfakes: Toolkit for Schools and Parents, panduan bagi sekolah dan orang tua untuk memahami risiko serta menangani insiden deepfake yang melibatkan anak dan remaja .

7. Gambar yang sudah tersebar hampir mustahil dihapus sepenuhnya

Begitu gambar intim palsu beredar, penghapusannya dari internet menjadi sangat sulit. Salinan dapat dibuat ulang, disimpan, atau dibagikan melalui berbagai kanal, sehingga korban menghadapi risiko konten tersebut muncul kembali kapan saja .

Sifat permanen ini memperpanjang kerugian psikologis dan sosial. Bagi korban, ancamannya bukan hanya apa yang terjadi saat gambar pertama kali dibuat, tetapi juga ketidakpastian tentang siapa saja yang telah melihat atau menyimpannya.

Apa yang sedang dilakukan?

PCPD telah membuka penyelidikan pidana terhadap insiden di HKU dan menerbitkan panduan untuk sekolah serta orang tua . Pemerintah Hong Kong juga sedang meninjau kerangka hukumnya, termasuk rencana konsultasi publik mengenai perluasan aturan tindak pidana seksual untuk mencakup pornografi deepfake .

Selain itu, otoritas privasi Hong Kong bersama hampir 60 mitra dari berbagai negara mengeluarkan pernyataan bersama yang memperingatkan bahaya gambar realistis namun palsu yang dibuat AI tanpa sepengetahuan atau persetujuan orang yang ditampilkan, terutama anak-anak .

Langkah yang dapat dilakukan orang tua dan sekolah

PCPD menyarankan orang tua untuk mempertimbangkan dengan hati-hati sebelum mengunggah foto atau video anak ke internet . Sekolah juga didorong untuk mengajarkan risiko, dampak, dan konsekuensi hukum dari membuat atau membagikan deepfake .

Para ahli merekomendasikan agar anak dibekali literasi digital kritis, termasuk kemampuan mempertanyakan keaslian gambar dan memahami bahwa konten yang tampak nyata belum tentu benar . Percakapan terbuka mengenai keamanan digital juga penting agar anak tahu kepada siapa mereka dapat meminta bantuan jika menjadi korban.

Jika sebuah gambar intim palsu melibatkan anak, prioritasnya adalah menjaga keselamatan korban, tidak meneruskan konten, menyimpan informasi penting mengenai sumber penyebaran secara aman, dan segera mencari bantuan dari sekolah, orang tua atau wali, serta pihak berwenang.