Granskningar pekar på återkommande brister i barnskyddet hos X och xAI:s Grok

Det samlade underlaget från journalister, barnskyddsorganisationer, tillsynsmyndigheter och domstolshandlingar pekar på ett återkommande säkerhetsproblem hos X och dess närstående AI-bolag xAI. Grok har kunnat användas för att skapa sexualiserade bilder av barn, samtidigt som X inte alltid stoppade uppladdning av tidigare identifierat material med sexuella övergrepp mot barn.

Det innebär inte att varje anklagelse mot xAI är bevisad – särskilt inte påståenden om vilket material som använts för att träna modellen. Men dokumentationen visar att de skyddsåtgärder som presenterats inte pålitligt förhindrade skada.

Två skilda typer av brister

En granskning från Canadian Centre for Child Protection, som rapporterades av The New York Times, fann att Grok i början av 2026 svarade på användares förfrågningar genom att skapa dussintals sexualiserade och ibland explicit sexuella bilder av barn. Bland dem fanns barn som tidigare hade identifierats som övergreppsoffer av brottsbekämpande myndigheter. I en separat analys fann The New York Times att användare under första halvåret 2026 laddade upp tidigare identifierat material med sexuella övergrepp mot barn på X. 36

Det rör sig om två olika säkerhetsmisslyckanden: dels en AI-tjänst som kan skapa nytt skadligt material, dels en social plattform där känt olagligt material kan spridas.

Problemen var inte bara hypotetiska

Reuters identifierade flera fall där Grok skapade sexualiserade bilder av barn. 39 Internet Watch Foundation uppgav dessutom att organisationens analytiker hittade material av kriminell karaktär med flickor i åldrarna 11 till 13 år, som verkade ha skapats med Grok. Materialet hittades på ett forum på darknet där användare uppgav att de hade använt verktyget. 41

Den australiska nätmyndigheten eSafety beskrev, i korrespondens som The Guardian tagit del av, material med sexuella övergrepp mot barn som ”särskilt systemiskt” på X och mer lättillgängligt där än på någon annan större tjänst som myndigheten hade granskat. Det är myndighetens bedömning, inte ett domstolsavgörande, men den illustrerar allvaret i modereringsfrågan. 50

Miljontals sexualiserade bilder och senare begränsningar

Tidigare rapportering pekade redan på bredare svagheter i Groks skydd för bildgenerering. En analys från The New York Times och uppskattningar från Center for Countering Digital Hate bedömde att Grok offentligt skapade minst 1,8 miljoner sexualiserade bilder av kvinnor under en kort period som började i slutet av december 2025. 40

En senare stämningsansökan hänvisar till en uppskattning på över 3 miljoner sexualiserade bilder under elva dagar, varav över 23 000 uppgavs föreställa barn. Den siffran är ett påstående i en rättsprocess och ska inte behandlas som ett fastslaget domstolsfynd. 43

Efter omfattande kritik och regulatoriskt tryck begränsade xAI möjligheten att redigera bilder av verkliga personer i utmanande klädsel. Reuters rapporterade då att Elon Musk sade att han inte kände till att Grok genererat nakenbilder av minderåriga. 49

Men i ett efterföljande test fann Reuters att Grok i vissa fall fortfarande kunde skapa sexualiserade bilder, även när användaren uttryckligen uppgav att personen på bilden inte hade samtyckt eller skulle förödmjukas. 38

Slutsatsen är alltså inte att några skydd helt saknades, utan att de inte fungerade tillräckligt konsekvent vid faktisk användning. Senare begränsningar förändrar inte heller vad systemet kunde producera tidigare, och rapporter om fortsatta brister gör det svårare att hävda att problemet var löst.

Vad stämningarna påstår – och vad som inte är bevisat

Flera stämningar har anklagat xAI för att ha möjliggjort skapande och spridning av sexuellt explicita AI-bilder av minderåriga. I mars stämde tre tonårsflickor xAI. De uppgav att en Grok-användare hade ändrat deras bilder till nakenbilder eller på annat sätt tydligt sexualiserade bilder utan deras vetskap. 17

En separat föreslagen grupptalan från en överlevare av sexuella övergrepp mot barn innehåller en ännu allvarligare anklagelse: att xAI tränade Grok på verkliga övergreppsbilder som föreställde henne, och att Grok sedan genererade nya övergreppsbilder med henne som motiv. 18 Stämningsansökan hävdar bland annat brister i filtreringen av övergreppsmaterial från träningsdata, i blockeringen av explicita resultat och i skyddet mot deepfakes utan samtycke.

Detta är anklagelser, inte fastställda fakta. Ingen av de källor som redovisas här visar att en domstol har slagit fast att xAI medvetet tränade Grok på material med sexuella övergrepp mot barn. Den skillnaden är avgörande: de dokumenterade bristerna i generering och moderering är en sak, medan frågan om träningsdata fortfarande prövas rättsligt.

Åtgärder i efterhand löser inte hela problemet

xAI har också väckt civilrättslig talan mot en användare som bolaget anklagar för att ha missbrukat Grok för att skapa material med sexuella övergrepp mot barn. Enligt stämningen laddade personen upp icke-sexuella bilder av minderåriga och försökte omvandla dem till explicita deepfakes. 25

Sådana åtgärder visar att bolaget har agerat mot påstått missbruk. Men ingripanden i efterhand är något annat än förebyggande skydd. Granskningarna ovan visade att skadliga resultat kunde genereras, att misstänkt kriminellt bildmaterial hade påträffats och att tidigare identifierat övergreppsmaterial nådde X. 363941

Katie Miller-frågan gäller insyn, inte teknik

Kontroversen kring kommentatorn Katie Miller är inte belägg för att X:s eller Groks tekniska skydd brast. Den gäller snarare ansvar och transparens i den offentliga debatten om AI-säkerhet.

Enligt rapportering baserad på en analys från The Washington Post ägde Miller omkring 1 miljon dollar i xAI-aktier efter att ha börjat arbeta som konsult för bolaget. Under ungefär nio månader publicerade hon nära 500 inlägg som kritiserade konkurrerande chattbottar och över 160 positiva inlägg om Grok. 11

Uppgifterna väcker frågor om redovisning av ekonomiska intressen och om trovärdigheten i hennes opinionsbildning. De fastslår däremot inte i sig någon lagöverträdelse och säger inget direkt om xAI:s systemsäkerhet.

Slutsats

Den tydligaste slutsatsen av tillgänglig rapportering är avgränsad men allvarlig: X:s och xAI:s skydd misslyckades upprepade gånger med att förhindra både generering av sexualiserade bilder av barn och spridning på X av tidigare identifierat övergreppsmaterial. 3639

Den olösta frågan är om problemen enbart handlade om produktdesign och innehållsmoderering, eller om de även rör träningsdata. Överlevarens stämning gör det senare gällande, men påståendet är ännu inte bevisat. 18