Meta liet tientallen betaalde advertenties met AI-gegenereerd kindermisbruik toe — India eist opheldering

De Tech Transparency Project (TTP) identificeerde onafhankelijk meer dan 50 van deze afbeelding- en videoadvertenties in Meta's eigen openbare Ad Library, geplaatst tussen november 2025 en augustus 2026. Verschillende advertenties linkten naar zogenaamde 'nudify'-apps die niet-consensuele seksualiseerde beelden genereren . De advertenties bereikten gezamenlijk duizenden accounts in de VS, het VK en meer dan een dozijn Europese landen .

Hoe Meta's eigen systemen faalden

Meta's advertentiestandaarden verbieden expliciet advertenties die CSAM bevatten of nudify-apps promoten . Toch werden de advertenties ontdekt met Meta's eigen transparantietools. TTP-onderzoekers vonden dat sommige advertenties waren gekoppeld aan het in Peking gevestigde GatherOne Inc., een goedgekeurde Meta-reclamepartner, dat ongeveer 7.600 advertenties voor AI-nudify-apps had geplaatst op Facebook en Instagram . TTP identificeerde 210 Facebook-pagina's die aan GatherOne waren gekoppeld, waarvan er 85 ten tijde van de rapportage nog actief waren .

Meta verklaarde later dat de meeste advertenties een minimaal bereik hadden en na controle werden uitgeschakeld, en wees de fout toe aan detectiesystemen die dateren van vóór de nieuwere AI-modratietools .

India's snelle regulerende reactie

De Indiase regering reageerde fel op de onthullingen. Na een afzonderlijk BBC Eye-onderzoek dat aantoonde dat Instagram betaalde advertenties draaide die expliciet CSAM promootten — met zoektermen als "rape video" en "child video" die linkten naar Telegram-kanalen — ondernam India's Ministerie van Elektronica en Informatietechnologie (MeitY) meerdere acties:

• IT-minister Ashwini Vaishnaw gaf MeitY de opdracht Meta te dagvaarden voor een formele uitleg .
• MeitY stuurde een formele kennisgeving waarin Meta werd bevolen onmiddellijk alle advertenties en inhoud op Instagram uit te schakelen die toegang tot Child Sexual Exploitative and Abuse Material (CSEAM) bevorderen of faciliteren .
• Meta kreeg zeven dagen de tijd om een gedetailleerde uitleg te geven, of anders juridische stappen te ondernemen, waaronder mogelijke straffen onder India's IT Act en POCSO Act .
• De regering eiste specifiek dat Meta uitlegde hoe haar advertentiebeoordelingssysteem dergelijke inhoud voor betaalde distributie had kunnen goedkeuren .

De vooruitziende ban van de Europese Unie

De regulerende reactie van de EU was structureel en wetgevend, niet zozeer een specifieke handhavingsactie tegen Meta voor deze advertenties. De EU AI Act bevat nu een nieuwe bepaling die het genereren van CSAM volledig zal verbieden vanaf 2 december 2026 . Dit richt zich direct op AI-gegenereerd misbruikmateriaal zoals dat in het WIRED-rapport.

De AI Act legt ook verplichtingen op aan degenen die AI-tools inzetten en aanbieden om veiligheid en transparantie te waarborgen, en vereist dat AI-gegenereerde inhoud herkenbaar is . Los daarvan had de Europese Commissie Meta in april 2025 al een boete van €200 miljoen opgelegd wegens niet-naleving van de Digital Markets Act vanwege het 'Consent or Pay'-reclame model, hoewel die actie niet direct verband hield met CSAM .

Wat dit betekent

De twee onderzoeken onthullen een systeemfout in Meta's advertentie-infrastructuur. Ondanks duidelijke richtlijnen glipte AI-gegenereerd CSAM maandenlang door de mazen van het net op meerdere platforms. India's snelle reactie — een ultimatum van zeven dagen — duidt op groeiend ongeduld bij overheden met zelfregulering door platforms. De ban van de EU stelt ondertussen een wereldwijde precedent door het genereren van CSAM zelf te verbieden, niet alleen de distributie ervan.