Tekoälyn deepfake-sovellukset altistavat lapset seksuaaliselle kuvaväkivallalle Hongkongissa – 7 keskeistä riskiä

PCPD on lisäksi kertonut tapauksesta, jossa tekoälychatbotin käyttäjät pystyivät lataamaan oikeita kuvia naisista ja lapsista ja muokkaamaan niitä niin sanotuiksi riisumiskuviksi. Raporttien mukaan palvelulla tuotettiin noin kolme miljoonaa seksuaalista kuvaa vain 11 päivässä .

2. Väärinkäyttö voi tapahtua kouluissa ja vertaisten kesken

Hongkongissa Hongkongin yliopiston eli HKU:n miespuolisen oikeustieteen opiskelijan väitetään käyttäneen ilmaista tekoälyohjelmistoa noin 700 suostumuksettomaksi pornografiseksi kuvaksi. Kohteina oli arviolta 20–30 naista, muun muassa yliopiston opiskelutovereita, alakouluaikaisia luokkatovereita ja yläkoulun opettajia .

PCPD on varoittanut, että myös lapset ja nuoret voivat luoda tai jakaa toisistaan vahingollisia deepfake-kuvia ymmärtämättä tekojensa vakavuutta tai mahdollisia oikeudellisia seurauksia . Ilmiö ei rajoitu Hongkongiin: muualla koulut ovat joutuneet kiristyksen kohteiksi, kun oppilaista on tehty seksuaalisia tekoälyväärennöksiä .

3. Uhrille voi aiheutua vakavaa psyykkistä haittaa

Tekoälyn tuottaman kuvaväkivallan uhrit voivat kokea nöyryytystä, häpeää, vihaa, loukatuksi tulemista ja syyllisyyttä. Seurauksena voi olla pitkäkestoista ahdistusta, vetäytymistä koulusta ja perheestä sekä vaikeuksia luottaa muihin ihmisiin . Joissakin tapauksissa haitta voi johtaa itsensä vahingoittamiseen tai itsetuhoisiin ajatuksiin.

Kärsimys voi voimistua jokaisen uuden jakamisen myötä. Lapset ovat erityisen alttiita, koska heidän kognitiiviset taitonsa ovat vielä kehittymässä ja heidän voi olla vaikeampi tunnistaa deepfake-sisältöä .

4. Tekoälyn tuottama lapsiin kohdistuva seksuaaliväkivaltamateriaali lisääntyy nopeasti

Internet Watch Foundation arvioi vuonna 2025 yhteensä 8 029 tekoälyn tuottamaa kuvaa ja videota realistiseksi lapseen kohdistuvaksi seksuaaliväkivaltamateriaaliksi . Järjestön mukaan materiaalin määrä kasvaa tasaisesti, ja sitä esiintyy sekä pimeässä verkossa että tavallisilla kaupallisilla alustoilla.

Laajamittainen tuotanto ja levitys kuormittavat sisällönvalvontajärjestelmiä. Tekoäly ei siis ainoastaan helpota yksittäisiä väärinkäytöksiä, vaan voi kasvattaa ongelmaa nopeasti ja suureen mittakaavaan.

5. Hongkongin lainsäädännössä on aukko

Hongkongin nykyisen lainsäädännön mukaan pelkkä tekoälyn tuottaman intiimikuvan tekeminen ilman levittämistä ei lähteissä kuvatussa tilanteessa ollut erikseen rikos. Lainsäädäntö kattaa julkaisemisen tai julkaisemisella uhkaamisen .

HKU:n tapauksessa uhrit kertoivat, että oikeudelliset arviot vahvistivat tämän aukon. Heille ei näin ollen ollut rikosoikeudellista keinoa saada kuvia luonutta opiskelijaa vastuuseen pelkän valmistamisen perusteella .

Hongkongin turvallisuusviranomaiset ovat ilmoittaneet julkisesta kuulemisesta, jonka tavoitteena on laajentaa seksuaalirikoksia koskevaa lainsäädäntöä deepfake-pornografian kattamiseksi . Hongkongin asianajajayhdistyksen puheenjohtaja on puolestaan vaatinut ongelmaan kohdennettua lakia . Kesällä 2026 lakimuutosta ei kuitenkaan ollut vielä tehty.

6. Vanhempien ja lasten tietoisuus riskeistä on puutteellista

PCPD:n mukaan vanhemmilla ja lapsilla on Hongkongissa yleisesti liian vähän tietoa deepfake-teknologian riskeistä, samalla kun lapsiin liittyvien haitallisten deepfake-tapausten määrä kasvaa nopeasti .

Yksi riskitekijä on niin sanottu sharenting eli vanhempien tapa jakaa lapsistaan runsaasti kuvia ja videoita verkossa. Julkisesti saatavilla oleva kuva-aineisto voi joutua väärinkäytön raaka-aineeksi .

PCPD julkaisi joulukuussa 2025 kouluille ja vanhemmille suunnatun oppaan ”Abuse of AI Deepfakes: Toolkit for Schools and Parents”. Sen tarkoituksena on lisätä tietoisuutta ja tarjota käytännön ohjeita lasten ja nuorten suojelemiseksi .

7. Verkkoon päätynyttä kuvaa on erittäin vaikea poistaa

Kun väärennetty intiimikuva on levinnyt verkkoon, sen poistaminen kaikista palveluista, ryhmistä ja uudelleenladatuista kopioista voi olla erittäin vaikeaa . Uhrille tämä merkitsee, että kuva saattaa tulla uudelleen vastaan vielä pitkän ajan kuluttua.

Näennäinen pysyvyys lisää myös psyykkistä kuormaa: uhri ei voi tietää, missä kuva on, kuka on nähnyt sen tai milloin se saattaa levitä uudelleen.

Mitä Hongkongissa tehdään?

PCPD on käynnistänyt HKU:n tapaukseen liittyvän rikostutkinnan . Lisäksi se on julkaissut kouluille ja vanhemmille tarkoitetun oppaan . Hallinto tarkastelee lainsäädäntöä, ja turvallisuusviranomaiset suunnittelevat julkista kuulemista deepfake-pornografian sisällyttämisestä seksuaalirikoksia koskeviin säännöksiin .

Hongkongin tietosuojaviranomainen ja lähes 60 kansainvälistä virkaveljeä ovat myös julkaisseet yhteisen varoituksen tekoälyn tuottamista haitallisista kuvista. Erityisenä huolenaiheena ovat realistiset kuvat ja videot, joissa tunnistettava henkilö – etenkin lapsi – esiintyy ilman tietämystään tai suostumustaan .

Mitä vanhemmat ja koulut voivat tehdä?

PCPD:n ohjeiden perusteella vanhempien kannattaa harkita tarkkaan, mitä kuvia ja videoita lapsistaan julkaistaan verkossa . Koulujen tulisi puolestaan opettaa oppilaille deepfake-kuviin liittyviä riskejä, suostumuksen merkitystä ja mahdollisia oikeudellisia seurauksia.

Asiantuntijat suosittelevat lisäksi digitaalisen lukutaidon vahvistamista ja avointa keskustelua verkkoturvallisuudesta . Jos lapsi kertoo joutuneensa kohteeksi, tärkeää on kuunnella häntä rauhallisesti, välttää syyllistämistä ja hakea nopeasti apua koululta sekä toimivaltaisilta viranomaisilta. Kuvia ei pidä levittää eteenpäin edes varoitukseksi, sillä jokainen uusi jako voi lisätä uhrin haittaa .