Selvitykset paljastavat toistuvia puutteita X:n ja xAI:n lapsiturvallisuudessa

Saatavilla oleva näyttö toimittajilta, lastensuojelutoimijoilta, viranomaisilta ja oikeusasiakirjoista piirtää vakavan kuvan X:n ja siihen kytkeytyvän xAI:n turvallisuudesta. Grokia voitiin käyttää lapsia seksualisoivien kuvien tuottamiseen, ja X:ään päätyi myös ennestään tunnistettua lasten seksuaalista hyväksikäyttömateriaalia.

Kaikkia xAI:ta koskevia väitteitä ei kuitenkaan ole näytetty toteen. Erityisesti väite siitä, että Grokin koulutusaineistossa olisi käytetty hyväksikäyttömateriaalia, on yhä oikeusriidan kohteena. Sen sijaan raportoidut puutteet kuvageneroinnin suojauksissa ja alustan sisällönvalvonnassa ovat erillinen, dokumentoitu kokonaisuus.

Mitä selvityksissä havaittiin

The New York Timesin raportoiman Kanadan Centre for Child Protectionin tarkastelun mukaan Grok tuotti alkuvuonna 2026 käyttäjien pyynnöstä kymmeniä seksualisoituja ja joissakin tapauksissa seksuaalisesti eksplisiittisiä kuvia lapsista. Mukana oli lapsia, jotka lainvalvontaviranomaiset olivat jo aiemmin tunnistaneet hyväksikäytön uhreiksi. Erillisessä analyysissa New York Times havaitsi, että X:n käyttäjät latasivat alustalle vuoden 2026 ensimmäisellä puoliskolla ennestään tunnistettua lasten seksuaalista hyväksikäyttömateriaalia. 36

Kyse on kahdesta eri turvallisuusongelmasta: tekoälyjärjestelmä tuotti uutta haitallista kuvamateriaalia, ja sosiaalisen median alusta ei onnistunut estämään jo tunnistetun laittoman aineiston leviämistä.

Aiempi raportointi oli jo osoittanut laajempia puutteita Grokin kuvageneroinnin suojauksissa. New York Timesin analyysin ja Center for Countering Digital Haten arvioiden mukaan Grok loi julkisesti vähintään 1,8 miljoonaa naisia seksualisoivaa kuvaa lyhyellä aikavälillä, joka alkoi joulukuun 2025 lopulla. 40 Myöhemmässä kanteessa esitettiin arvio yli kolmesta miljoonasta seksualisoidusta kuvasta 11 päivän aikana; niistä yli 23 000:n väitettiin esittävän lapsia. Tämä luku on oikeudenkäyntiasiakirjassa esitetty väite, ei tuomioistuimen ratkaisu. 43

Lapsia koskevat havainnot eivät olleet vain teoreettisia

Reuters tunnisti tapauksia, joissa Grok tuotti seksualisoituja kuvia lapsista. 39 Internet Watch Foundation puolestaan kertoi analyytikkojensa löytäneen 11–13-vuotiaita tyttöjä esittäviä rikolliseksi luokiteltuja kuvia, joiden vaikutti syntyneen Grokin avulla. Kuvat löytyivät pimeän verkon keskustelufoorumilta, jossa käyttäjät väittivät käyttäneensä työkalua niiden tekemiseen. 41

Australian verkkoturvallisuusviranomaisen eSafetyn X:lle lähettämässä kirjeenvaihdossa lasten hyväksikäyttömateriaalia kuvattiin alustalla ”erityisen järjestelmälliseksi” ongelmaksi ja helpommin saatavaksi kuin millään muulla viranomaisen tarkastelemalla valtavirran palvelulla. Kyse on viranomaisen arviosta, ei oikeuden ratkaisusta, mutta se kuvaa sisällönvalvontaa koskevan huolen vakavuutta. 50

Rajoituksia kiristettiin, mutta aukkoja jäi

Laajan arvostelun ja viranomaispaineen jälkeen xAI rajoitti oikeita ihmisiä esittävien kuvien muokkaamista paljastavaan asuun. Reutersin mukaan Elon Musk sanoi rajoitusten julkistamisen aikaan, ettei hän ollut tietoinen Grokin tuottamista alastomia alaikäisiä esittävistä kuvista. 49

Myöhemmässä testissä Reuters kuitenkin havaitsi, että Grok pystyi yhä joissakin tilanteissa tuottamaan seksualisoituja kuvia, vaikka käyttäjä ilmoitti nimenomaisesti kuvan kohteen olevan ilman suostumusta tai joutuvan nöyryytetyksi. 38

Johtopäätös ei ole, ettei suojatoimia olisi ollut. Ongelma on, etteivät ne estäneet haitallista kuvatuotantoa tai levitystä luotettavasti todellisessa käytössä. Jälkikäteen tehdyt rajoitukset eivät myöskään poista näyttöä aiemmista tuotoksista, ja myöhemmät havainnot jatkuvista puutteista vaikeuttavat väitettä ongelman täydellisestä ratkaisemisesta.

Mitä kanteissa väitetään – ja mitä ei ole todistettu

Useissa kanteissa xAI:ta syytetään alaikäisiä esittävien seksuaalisesti eksplisiittisten tekoälykuvien tuottamisen ja levittämisen mahdollistamisesta. Maaliskuussa kolme teinityttöä haastoi xAI:n oikeuteen. He väittävät, että Grokin käyttäjä muokkasi heidän kuvansa ilman heidän tietämystään alastomiksi tai muuten selvästi seksuaalisiksi. 17

Erillisessä ehdotetussa ryhmäkanteessa lasten seksuaalisen hyväksikäytön uhri esittää vielä vakavamman väitteen: xAI olisi kouluttanut Grokia häntä esittävällä aidolla hyväksikäyttömateriaalilla, minkä jälkeen Grok olisi tuottanut uusia häntä esittäviä hyväksikäyttökuvia. 18 Kanteessa väitetään, ettei yhtiö suodattanut hyväksikäyttömateriaalia koulutusaineistosta, estänyt eksplisiittisiä tuotoksia tai kyennyt ehkäisemään suostumuksettomia deepfake-kuvia.

Nämä ovat väitteitä, eivät vahvistettuja tosiseikkoja. Tässä käsitellyissä lähteissä ei ole tuomioistuimen ratkaisua, jonka mukaan xAI olisi tietoisesti kouluttanut Grokia lasten seksuaalista hyväksikäyttöä kuvaavalla aineistolla. Ero on olennainen: dokumentoidut generointi- ja moderointipuutteet ovat yksi asia, kun taas koulutusaineistoa koskeva väite ratkaistaan mahdollisesti oikeudessa.

Jälkikäteinen puuttuminen ei poista havaittuja ongelmia

xAI on myös nostanut siviilikanteen käyttäjää vastaan, jonka yhtiö väittää käyttäneen Grokia lasten seksuaalista hyväksikäyttömateriaalin tuottamiseen. Yhtiön mukaan käyttäjä latasi Grokiin alaikäisiä esittäviä ei-seksuaalisia kuvia ja yritti muuttaa ne seksuaalisesti eksplisiittisiksi deepfake-kuviksi. 25

Tällainen toiminta osoittaa, että yhtiö on puuttunut väitettyyn väärinkäyttöön. Mutta jälkikäteinen toimeenpano on eri asia kuin ennaltaehkäisy. Edellä kuvatut selvitykset havaitsivat, että haitallisia kuvia voitiin tuottaa, epäiltyä rikollista kuvamateriaalia löytyi ja ennestään tunnistettua hyväksikäyttömateriaalia päätyi X:ään. 363941

Katie Millerin sidonnaisuudet ovat erillinen kysymys

Kommentaattori Katie Milleriin liittyvä kiista ei ole näyttöä X:n tai Grokin teknisten suojausten toimimattomuudesta. Se koskee vastuullisuutta tekoälyturvallisuudesta käytävässä julkisessa keskustelussa.

Washington Postin analyysiin perustuvan raportoinnin mukaan Miller omisti noin miljoonan dollarin arvosta xAI:n osakkeita aloitettuaan konsultoinnin yhtiölle. Samalla hän julkaisi noin 500 kilpailijoiden keskustelurobotteja arvostellutta viestiä ja yli 160 Grokia myönteisesti käsitellyttä viestiä. 11

Tiedot herättävät kysymyksiä sidonnaisuuksien ilmoittamisesta ja hänen vaikuttamistyönsä uskottavuudesta. Ne eivät sellaisenaan osoita lain rikkomista eivätkä kerro, miten xAI:n järjestelmät teknisesti toimivat.

Johtopäätös

Saatavilla olevan raportoinnin selkein johtopäätös on rajattu mutta vakava: X:n ja xAI:n suojaukset epäonnistuivat toistuvasti estämään lapsia seksualisoivien kuvien tuottamista sekä ennestään tunnistetun hyväksikäyttömateriaalin leviämistä X:ssä. 3639

Avoimeksi jää, olivatko puutteet yksinomaan tuoteturvallisuuden ja sisällönvalvonnan ongelmia vai liittyikö niihin myös koulutusaineisto. Uhrin ryhmäkanne nostaa esiin jälkimmäisen väitteen, mutta sitä ei ole toistaiseksi näytetty toteen. 18