Meta godkendte betalte annoncer med AI-genereret overgrebsmateriale af børn – Indien krævede svar

Tech Transparency Project (TTP) identificerede uafhængigt over 50 af disse billed- og videoannoncer i Metas eget offentlige annoncearkiv, lagt op mellem november 2025 og august 2026. Flere af annoncerne linkede til såkaldte 'nudify'-apps, der genererer ikke-samtykkende seksualiserede billeder . Annoncerne nåede tusindvis af konti i USA, Storbritannien og mere end et dusin europæiske lande .

Sådan svigtede Metas egne systemer

Metas annoncestandarder forbyder udtrykkeligt annoncer med børnepornografi eller reklame for nudify-apps . Alligevel blev annoncerne opdaget ved hjælp af Metas egne gennemsigtighedsværktøjer. TTP-forskere fandt, at nogle annoncer var knyttet til det Beijing-baserede GatherOne Inc., en godkendt Meta-annoncepartner, som havde placeret omkring 7.600 annoncer for AI-nudify-apps på Facebook og Instagram . TTP identificerede 210 Facebook-sider tilknyttet GatherOne, hvoraf 85 sider stadig var aktive på undersøgelsestidspunktet .

Meta udtalte efterfølgende, at de fleste annoncer havde minimal rækkevidde og blev deaktiveret efter gennemgang. Virksomheden gav detektionssystemer, der er ældre end deres nyere AI-moderneringsværktøjer, skylden for fejlen .

Indiens hurtige reguleringsreaktion

Den indiske regering reagerede markant på afsløringerne. Efter en separat BBC Eye-undersøgelse, der viste, at Instagram kørte betalte annoncer, der direkte promoverede børnepornografi – med søgetermer som "rape video" og "child video", der linkede til Telegram-kanaler – tog Indiens ministerium for elektronik og informationsteknologi (MeitY) flere skridt:

• IT-minister Ashwini Vaishnaw beordrede MeitY til at indkalde Meta til en formel forklaring .
• MeitY udsendte en formel påmindelse, der pålagde Meta straks at deaktivere alle annoncer og indhold på Instagram, der fremmer eller letter adgang til børnepornografi (CSEAM) .
• Meta fik syv dage til at give en detaljeret forklaring eller risikere retslige skridt, herunder potentielle straffe i henhold til Indiens IT-lov og POCSO-loven .
• Regeringen krævede specifikt, at Meta forklarede, hvordan deres annoncegennemgangssystem havde godkendt sådant indhold til betalt distribution .

EU's fremadskuende forbud

EU's reguleringsrespons var strukturel og lovgivningsmæssig snarere end en specifik håndhævelsesaktion mod Meta for disse annoncer. EU's AI Act indeholder nu en ny bestemmelse, der forbyder generering af børnepornografi fra 2. december 2026 . Dette rammer direkte AI-genereret overgrebsmateriale som det, WIRED-rapporten beskrev.

AI Act pålægger også udbydere og brugere af AI-værktøjer at sikre sikkerhed og gennemsigtighed og kræver, at AI-genereret indhold kan identificeres . Separat havde Europa-Kommissionen allerede idømt Meta en bøde på 200 millioner euro i april 2025 for manglende overholdelse af Digital Markets Act i forbindelse med deres 'Consent or Pay'-annonceringsmodel, selvom denne handling ikke var direkte relateret til børnepornografi .

Hvad det betyder

De to uafhængige undersøgelser afslører et systemisk svigt i Metas annoncegennemgangsinfrastruktur. På trods af klare politikker lykkedes det AI-genereret børnepornografi at slippe igennem i måneder på tværs af flere platforme. Indiens hurtige respons – et syv-dages ultimatum – signalerer voksende utålmodighed blandt regeringer med platformenes selvregulering. EU's forbud sætter samtidig en global præcedens ved at forbyde selve genereringen af børnepornografi, ikke kun distributionen.