Onderzoeken leggen herhaalde tekortkomingen in kindveiligheid bij X en Grok bloot

De beschikbare informatie van journalisten, kinderbeschermingsorganisaties, toezichthouders en rechtbankstukken wijst op een aanhoudend veiligheidsprobleem bij X en het gelieerde AI-bedrijf xAI. Grok kon worden ingezet om geseksualiseerde beelden van kinderen te maken, terwijl X ook niet altijd voorkwam dat al eerder geïdentificeerd materiaal van seksueel kindermisbruik werd geüpload.

Dat betekent niet dat elke beschuldiging tegen xAI vaststaat. Vooral de claim over de trainingsdata van Grok is nog onderwerp van een rechtszaak. Maar de onderzoeken laten wel zien dat aangekondigde veiligheidsmaatregelen schadelijke uitkomsten niet betrouwbaar hebben voorkomen.

Twee verschillende, maar ernstige tekortkomingen

Een onderzoek van de Canadian Centre for Child Protection, waarover The New York Times berichtte, stelde vast dat Grok begin 2026 op verzoek van gebruikers tientallen geseksualiseerde en soms seksueel expliciete beelden van kinderen maakte. Daaronder waren kinderen die al bij opsporingsdiensten bekend waren als slachtoffers van misbruik. De Times constateerde afzonderlijk dat gebruikers in de eerste helft van 2026 eerder geïdentificeerd materiaal van seksueel kindermisbruik op X plaatsten. 36

Het gaat om twee afzonderlijke problemen: een AI-systeem dat nieuw schadelijk beeldmateriaal genereert, en een sociaal platform waarop bekend illegaal materiaal alsnog kan circuleren.

Eerdere berichtgeving wees al op bredere zwakke plekken in de beeldbeveiliging van Grok. Analyses van The New York Times en schattingen van het Center for Countering Digital Hate kwamen uit op minstens 1,8 miljoen geseksualiseerde beelden van vrouwen die Grok in korte tijd, vanaf eind december 2025, publiekelijk produceerde. 40 In een latere rechtszaak wordt geschat dat het om meer dan 3 miljoen geseksualiseerde beelden in elf dagen ging, waarvan ruim 23.000 beelden kinderen leken af te beelden. Dat laatste cijfer is een stelling in een procedure, geen rechterlijke vaststelling. 43

De risico's voor kinderen waren niet hypothetisch

Reuters identificeerde meerdere gevallen waarin Grok geseksualiseerde beelden van kinderen genereerde. 39 De Internet Watch Foundation meldde dat analisten beelden met een mogelijk strafbaar karakter hadden aangetroffen van meisjes van 11 tot 13 jaar, die volgens de organisatie met Grok leken te zijn gemaakt. Het materiaal werd gevonden op een darkwebforum waar gebruikers beweerden de tool te hebben gebruikt. 41

De Australische onlineveiligheidstoezichthouder eSafety omschreef materiaal van seksueel kindermisbruik op X in correspondentie als „bijzonder systemisch” en toegankelijker dan op andere onderzochte grote online diensten. Die kwalificatie is het oordeel van de toezichthouder, niet een rechterlijk vonnis, maar onderstreept de zorgen over de moderatie op het platform. 50

Aangescherpte regels bleken niet afdoende

Na brede kritiek en druk van toezichthouders beperkte xAI het bewerken van beelden van echte personen in onthullende kleding. Reuters meldde dat Elon Musk bij de aankondiging zei niet te weten dat Grok naaktbeelden van minderjarigen had gegenereerd. 49

Een latere test van Reuters liet echter zien dat Grok in sommige situaties nog altijd geseksualiseerde beelden kon maken, ook wanneer gebruikers expliciet aangaven dat de afgebeelde persoon geen toestemming had gegeven of vernederd zou worden. 38

De kern is dus niet dat er helemaal geen veiligheidsmaatregelen waren. Het probleem is dat die maatregelen in de praktijk niet consequent voorkwamen dat schadelijk materiaal werd gemaakt of verspreid. Nieuwe beperkingen nemen bovendien eerder gemaakte beelden niet weg, en meldingen van aanhoudende tekortkomingen maken het moeilijk om te stellen dat het probleem volledig was opgelost.

Wat de rechtszaken stellen — en wat nog niet is bewezen

In meerdere zaken wordt xAI verweten de productie en verspreiding van seksueel expliciete AI-beelden van minderjarigen mogelijk te hebben gemaakt. In maart daagden drie tienermeisjes xAI voor de rechter. Zij stellen dat een Grok-gebruiker hun beelden zonder hun medeweten omzette in naakt- of anderszins expliciet geseksualiseerde beelden. 17

Een afzonderlijke voorgestelde collectieve zaak van een overlevende van seksueel kindermisbruik bevat een nog ernstigere beschuldiging: xAI zou Grok hebben getraind op echte misbruikbeelden van haar, waarna Grok nieuwe misbruikbeelden zou hebben gegenereerd waarop zij staat afgebeeld. 18 Volgens de klacht schoot xAI tekort bij het filteren van misbruikmateriaal uit trainingsdata, het blokkeren van expliciete uitkomsten en het voorkomen van niet-consensuele deepfakes.

Dit zijn beschuldigingen, geen vastgestelde feiten. In de hier aangehaalde bronnen staat geen rechterlijke uitspraak die concludeert dat xAI Grok willens en wetens met materiaal van seksueel kindermisbruik heeft getraind. Dat onderscheid is cruciaal: de vastgelegde tekortkomingen bij beeldgeneratie en moderatie zijn iets anders dan de nog betwiste kwestie rond trainingsdata.

Optreden achteraf lost het eerdere falen niet op

xAI heeft ook zelf civielrechtelijke stappen ondernomen tegen een gebruiker die Grok volgens het bedrijf misbruikte om materiaal van seksueel kindermisbruik te maken. De onderneming stelt onder meer dat de gebruiker niet-seksuele beelden van minderjarigen uploadde en probeerde die om te zetten in expliciete deepfakes. 25

Dat wijst op optreden tegen vermeend misbruik, maar handhaving achteraf is iets anders dan preventie. De hierboven genoemde onderzoeken constateerden dat schadelijke beelden konden worden gegenereerd, dat vermoedelijk strafbaar materiaal werd aangetroffen en dat eerder geïdentificeerd misbruikmateriaal op X terechtkwam. 363941

De afzonderlijke kwestie rond Katie Miller

De controverse rond commentator Katie Miller is geen bewijs dat de technische beveiliging van X of Grok faalde. Het is een kwestie van transparantie en belangenverstrengeling in het publieke debat over AI-veiligheid.

Op basis van een analyse van The Washington Post werd gemeld dat Miller, nadat zij als adviseur voor xAI was gaan werken, ongeveer 1 miljoen dollar aan xAI-aandelen bezat. In ongeveer negen maanden plaatste zij bijna 500 berichten die concurrerende chatbots aanvielen en meer dan 160 positieve berichten over Grok. 11

Die feiten roepen vragen op over openheid over financiële belangen en over de geloofwaardigheid van haar publieke pleidooi. Op zichzelf bewijzen zij geen wettelijke overtreding en zeggen zij niets over de technische werking van xAI's systemen.

Conclusie

De meest duidelijke conclusie uit de beschikbare verslaggeving is ernstig, maar afgebakend: de veiligheidsmaatregelen van X en xAI hebben herhaaldelijk niet voorkomen dat geseksualiseerde beelden van kinderen werden gegenereerd en dat eerder geïdentificeerd materiaal van seksueel kindermisbruik op X circuleerde. 3639

De openstaande vraag is of dit uitsluitend tekortkomingen waren in productbeveiliging en contentmoderatie, of dat ook de trainingsdata een rol speelden. De rechtszaak van de overlevende stelt dat laatste nadrukkelijk, maar die claim is vooralsnog niet bewezen. 18