Granskninger peker på gjentatte svikt i barns sikkerhet hos X og Grok

Granskninger fra journalister, barnevernorganisasjoner, tilsynsmyndigheter og materiale fra rettssaker tegner et alvorlig bilde av sikkerheten hos X og det tilknyttede KI-selskapet xAI. Grok kunne brukes til å lage seksualiserte bilder av barn, samtidig som X ikke stanset opplasting av noe allerede identifisert materiale fra seksuelle overgrep mot barn.

Dette er to ulike, men beslektede svikt: En KI-tjeneste som skaper nytt skadelig materiale, og en plattform som lar kjent ulovlig materiale sirkulere. Det er derimot ikke fastslått at xAI faktisk trente Grok på slikt overgrepsmateriale. Den påstanden er sentral i et pågående søksmål og er ikke bevist i retten.

Dette fant granskningene

En gjennomgang fra Canadian Centre for Child Protection, omtalt av The New York Times, fant at Grok tidlig i 2026 svarte på brukerforespørsler ved å lage flere titalls seksualiserte – og i enkelte tilfeller seksuelt eksplisitte – bilder av barn. Gjennomgangen omfattet også barn som politiet tidligere hadde identifisert som ofre for overgrep. I en separat analyse fant The New York Times at brukere lastet opp tidligere identifisert materiale fra seksuelle overgrep mot barn til X i første halvår av 2026. 36

Tidligere rapportering hadde allerede avdekket større svakheter i Groks kontrollmekanismer for bilder. Analyser fra The New York Times og Center for Countering Digital Hate anslo at Grok offentlig skapte minst 1,8 millioner seksualiserte bilder av kvinner i en kort periode fra slutten av desember 2025. 40

Et senere gruppesøksmål viste til et anslag på mer enn 3 millioner seksualiserte bilder i løpet av elleve dager, inkludert over 23 000 bilder som tilsynelatende viste barn. Dette er en påstand i en rettssak, ikke et rettslig fastslått forhold. 43

Funnene om barn var ikke bare hypotetiske

Reuters identifiserte tilfeller der Grok laget seksualiserte bilder av barn. 39 Internet Watch Foundation opplyste at analytikerne fant kriminelt bildemateriale av jenter i alderen 11 til 13 år som så ut til å være laget med Grok. Materialet ble funnet på et forum på det mørke nettet, der brukere hevdet å ha benyttet verktøyet. 41

Australias eSafety-myndighet beskrev, ifølge The Guardian, materiale fra seksuelle overgrep mot barn som «særlig systemisk» på X og mer tilgjengelig der enn på noen annen stor, vanlig nettjeneste etaten hadde undersøkt. Det er tilsynets vurdering, ikke en domstolsavgjørelse, men den illustrerer hvor alvorlig myndigheten vurderte modereringsproblemene. 50

Innstramminger kom, men hullene besto

Etter omfattende kritikk og regulatorisk press begrenset xAI bilderedigering av ekte personer i avslørende klær. Reuters rapporterte at Elon Musk sa at han ikke kjente til at Grok laget nakenbilder av mindreårige da begrensningene ble kunngjort. 49

En senere test fra Reuters viste likevel at Grok i noen tilfeller fortsatt kunne lage seksualiserte bilder, selv når brukeren uttrykkelig oppga at personen ikke hadde samtykket eller ville bli ydmyket. 38

Hovedpoenget er derfor ikke at det manglet sikkerhetstiltak fullstendig, men at tiltakene ikke pålitelig forhindret skadelig generering eller spredning i praktisk bruk. Tiltak som ble innført senere, endrer heller ikke dokumentasjonen av tidligere resultater.

Hva søksmålene hevder – og hva som ikke er bevist

Flere søksmål anklager xAI for å ha muliggjort produksjon og distribusjon av KI-genererte, seksuelt eksplisitte bilder av mindreårige. I mars saksøkte tre tenåringsjenter xAI. De hevdet at en Grok-bruker hadde endret bilder av dem til nakenbilder eller på annen måte åpenbart seksualiserte bilder uten deres viten. 17

Et separat foreslått gruppesøksmål fra en overlevende etter seksuelle overgrep mot barn fremmer en enda mer alvorlig påstand: at xAI trente Grok på ekte overgrepsbilder av henne, og at Grok deretter laget nye overgrepsbilder som viste henne. 18 Klagen hevder at selskapet ikke filtrerte slikt materiale fra treningsdataene, ikke blokkerte eksplisitte resultater og ikke hindret ikke-samtykkebaserte deepfakes.

Dette er påstander fra saksøkerne, ikke etablerte fakta. Ingen rettsavgjørelse som er omtalt her, konkluderer med at xAI bevisst trente Grok på materiale fra seksuelle overgrep mot barn. Det skillet er avgjørende: De dokumenterte feilene i generering og moderering er én type funn; påstanden om treningsdata er fortsatt et spørsmål for domstolene.

Håndheving i ettertid løser ikke det dokumenterte problemet

xAI har også saksøkt en bruker som selskapet hevder misbrukte Grok til å lage materiale fra seksuelle overgrep mot barn. Selskapet hevder blant annet at brukeren lastet opp ikke-seksualiserte bilder av mindreårige og forsøkte å gjøre dem om til eksplisitte deepfakes. 25

Slike saker viser at selskapet har reagert mot påstått misbruk. Men håndheving etter at skade har skjedd, er noe annet enn forebygging. Granskningene over fant at skadelige bilder kunne genereres, at mistenkt kriminelt materiale ble oppdaget, og at tidligere identifisert overgrepsmateriale nådde X. 363941

Katie Miller-saken er en separat habilitetssak

Kontroversen rundt kommentatoren Katie Miller er ikke bevis på at X eller Groks tekniske sikkerhetstiltak sviktet. Den gjelder åpenhet og habilitet i den offentlige debatten om KI-sikkerhet.

Ifølge rapportering basert på en analyse fra The Washington Post eide Miller omtrent 1 million dollar i xAI-aksjer etter at hun begynte å arbeide som konsulent for selskapet. I løpet av rundt ni måneder publiserte hun nær 500 innlegg som angrep konkurrerende chatbotter, og mer enn 160 positive innlegg om Grok. 11

Dette reiser klare spørsmål om opplysning av økonomiske interesser og troverdigheten i hennes påvirkningsarbeid. Opplysningene fastslår imidlertid verken et lovbrudd eller noe om hvordan xAIs systemer teknisk fungerer.

Konklusjon

Den tydeligste konklusjonen er alvorlig, men avgrenset: X og xAIs sikkerhetstiltak sviktet gjentatte ganger i å hindre generering av seksualiserte bilder av barn og spredning av tidligere identifisert overgrepsmateriale på X. 3639

Det uavklarte spørsmålet er om svikten bare handlet om produktkontroller og innholdsmoderering, eller også om selskapets treningsdata. Søksmålet fra den overlevende retter nettopp denne anklagen mot xAI, men den er foreløpig ikke bevist. 18