7 Bahaya Aplikasi Deepfake AI yang Mengancam Kanak-kanak di Hong Kong

Skala penyalahgunaan ini turut membimbangkan. Sebuah chatbot AI dilaporkan membenarkan pengguna memuat naik foto sebenar wanita dan kanak-kanak sebelum menghasilkan imej seksual palsu melalui arahan digital. Dalam tempoh hanya 11 hari, kira-kira 3 juta imej seksual dilaporkan telah dihasilkan .

2. Rakan sebaya juga boleh menjadi pelaku

Kes di institusi pendidikan menunjukkan bahaya ini boleh berlaku dalam kalangan rakan sekelas sendiri. Di Hong Kong, seorang pelajar undang-undang lelaki di Universiti Hong Kong (HKU) didakwa menggunakan perisian AI percuma untuk menghasilkan kira-kira 700 imej lucah tanpa izin melibatkan antara 20 hingga 30 wanita. Mereka termasuk rakan universiti, rakan sekolah rendah dan guru sekolah menengahnya .

PCPD memberi amaran bahawa kanak-kanak dan remaja mungkin mencipta atau menyebarkan deepfake berniat jahat terhadap rakan sebaya tanpa benar-benar memahami betapa seriusnya perbuatan itu atau akibat undang-undangnya . Kes seumpama ini juga dilaporkan di sekolah di wilayah lain, termasuk apabila pihak sekolah diugut menggunakan deepfake eksplisit pelajar .

3. Mangsa boleh mengalami trauma psikologi yang berat

Mangsa penderaan seksual berasaskan imej yang dijana AI boleh berdepan rasa malu, terhina, marah, dikhianati dan menyalahkan diri sendiri. Keadaan ini boleh membawa kepada tekanan emosi berpanjangan, menjauhkan diri daripada sekolah dan keluarga serta kesukaran untuk mempercayai orang lain .

Dalam sesetengah kes, tekanan itu boleh dikaitkan dengan kecenderungan mencederakan diri atau pemikiran untuk membunuh diri. Trauma juga bertambah setiap kali imej tersebut dikongsi, dihantar semula atau dibincangkan dalam kumpulan rakan sebaya .

Kanak-kanak lebih terdedah kerana keupayaan kognitif mereka masih berkembang dan mereka mungkin lebih sukar mengenal pasti kandungan deepfake .

4. Kandungan penderaan seksual kanak-kanak yang dijana AI semakin meningkat

Internet Watch Foundation (IWF) menilai 8,029 imej dan video yang dijana AI pada 2025 sebagai memaparkan penderaan seksual kanak-kanak yang realistik . Jumlah kandungan sedemikian terus meningkat di web gelap dan juga platform komersial arus perdana di internet terbuka .

Penghasilan serta pengedaran pada skala besar ini memberi tekanan hebat kepada sistem penyederhanaan kandungan sedia ada. Kandungan yang berbahaya boleh muncul di pelbagai platform sebelum sempat dikesan dan dipadamkan.

5. Masih ada jurang dalam undang-undang Hong Kong

Di bawah undang-undang Hong Kong yang berkuat kuasa, sekadar menghasilkan imej intim AI tanpa menyebarkannya bukanlah kesalahan jenayah khusus. Peruntukan sedia ada lebih tertumpu kepada penerbitan atau ugutan untuk menerbitkan imej tersebut .

Mangsa dalam kes deepfake HKU dilaporkan mendapatkan nasihat undang-undang dan mendapati jurang ini mengehadkan tindakan jenayah terhadap individu yang menghasilkan imej tersebut tetapi tidak mengedarkannya .

Biro Keselamatan Hong Kong telah mengumumkan rancangan untuk mengadakan rundingan awam bagi memperluas undang-undang kesalahan seksual supaya merangkumi pornografi deepfake, dengan sasaran meminda undang-undang pada 2026 . Persatuan Bar Hong Kong pula menggesa penggubalan undang-undang khusus untuk menangani masalah ini . Setakat pertengahan 2026, pindaan itu masih belum berkuat kuasa.

6. Kesedaran ibu bapa dan kanak-kanak masih rendah

PCPD mendapati kesedaran ibu bapa serta kanak-kanak di Hong Kong tentang risiko deepfake secara umumnya masih tidak mencukupi, sedangkan kes penyalahgunaan yang melibatkan kanak-kanak meningkat dengan pantas .

Salah satu isu yang diberi perhatian ialah “sharenting”, iaitu amalan ibu bapa berkongsi terlalu banyak foto atau video anak di internet. Bahan yang kelihatan biasa itu boleh menjadi sumber foto untuk disalah guna dalam penghasilan deepfake .

Pada Disember 2025, PCPD menerbitkan Abuse of AI Deepfakes: Toolkit for Schools and Parents untuk membantu sekolah, ibu bapa dan penjaga memahami risiko serta mengendalikan insiden deepfake yang melibatkan kanak-kanak dan golongan muda .

7. Kandungan yang sudah tersebar amat sukar dipadamkan

Sebaik sahaja imej intim palsu dimuat naik atau dikongsi, kandungan itu boleh disalin, dimuat turun dan disebarkan semula di platform lain. Akibatnya, ia amat sukar untuk dipadamkan sepenuhnya daripada internet .

Kesan ini boleh berpanjangan kerana mangsa tidak tahu bila imej berkenaan akan muncul semula. Kebimbangan terhadap penyebaran berulang turut menambah tekanan psikologi yang mereka tanggung.

Apakah tindakan yang sedang diambil?

PCPD telah melancarkan siasatan jenayah terhadap insiden di HKU . Badan itu juga menerbitkan kit panduan untuk sekolah dan ibu bapa bagi meningkatkan kesedaran serta membantu pengendalian insiden .

Kerajaan Hong Kong sedang menilai rangka kerja undang-undang berkaitan, manakala Biro Keselamatan merancang rundingan awam untuk mempertimbangkan peluasan undang-undang kesalahan seksual kepada pornografi deepfake .

PCPD bersama hampir 60 badan perlindungan data dari seluruh dunia turut mengeluarkan kenyataan bersama yang menyuarakan kebimbangan terhadap imej berbahaya dan tidak dipersetujui yang dihasilkan AI, khususnya apabila melibatkan kanak-kanak .

Apa yang boleh dilakukan oleh ibu bapa dan sekolah?

PCPD menasihatkan ibu bapa supaya berfikir dengan teliti sebelum menyiarkan foto atau video anak di internet . Antara langkah asas yang boleh dipertimbangkan ialah:

• mengehadkan perkongsian foto anak kepada khalayak yang benar-benar dipercayai;
• menyemak tetapan privasi akaun media sosial secara berkala;
• berbincang dengan anak tentang persetujuan, privasi dan risiko berkongsi kandungan;
• tidak menyebarkan semula imej yang disyaki sebagai deepfake; dan
• melaporkan insiden kepada pihak sekolah, platform berkaitan atau pihak berkuasa yang sesuai.

Sekolah pula disaran mendidik pelajar tentang literasi digital, kesan emosi terhadap mangsa serta implikasi undang-undang apabila mencipta atau berkongsi deepfake . Perbualan terbuka dan tidak menyalahkan mangsa boleh membantu kanak-kanak mendapatkan sokongan dengan lebih cepat.