Meta godkjente betalte annonser med KI-generert overgrepsmateriale av barn – India krevde svar

Tech Transparency Project (TTP) identifiserte uavhengig over 50 av disse bilde- og videoannonsene i Metas eget offentlige annonserbibliotek, publisert mellom november 2025 og august 2026. Flere av annonsene lenket til såkalte «nudify»-apper som genererer ikke-samtykkende seksualiserte bilder . Annonsene nådde samlet tusenvis av kontoer i USA, Storbritannia og over et dusin europeiske land .

Hvordan Metas egne systemer sviktet

Metas annonsestandarder forbyr uttrykkelig annonser som inneholder CSAM eller fremmer nudify-apper . Likevel ble annonsene oppdaget ved hjelp av Metas egne åpenhetsverktøy. TTP-forskere fant at noen annonser var knyttet til Beijing-baserte GatherOne Inc., en godkjent Meta-annonsepartner, som hadde plassert omtrent 7 600 annonser for KI-baserte nudify-apper på Facebook og Instagram . TTP identifiserte 210 Facebook-sider knyttet til GatherOne, hvorav 85 av sidene fortsatt var aktive på rapporteringstidspunktet .

Meta uttalte senere at de fleste annonsene hadde minimal rekkevidde og ble deaktivert etter gjennomgang, og skyldte på deteksjonssystemer som var eldre enn deres nyere KI-modereringsverktøy .

Indias raske regulatoriske respons

Den indiske regjeringen reagerte kraftig på avsløringene. Etter en separat BBC Eye-undersøkelse som fant at Instagram kjørte betalte annonser som eksplisitt fremmet CSAM – ved å bruke søkeord som «voldteksvideo» og «barnevido» som lenket til Telegram-kanaler – tok Indias departement for elektronikk og informasjonsteknologi (MeitY) flere grep:

• IT-minister Ashwini Vaishnaw instruerte MeitY om å innkalle Meta til en formell forklaring .
• MeitY sendte et formelt varsel som påla Meta å umiddelbart deaktivere alle annonser og innhold på Instagram som fremmer eller tilrettelegger for tilgang til seksuelt utnyttende og overgrepsmateriale av barn (CSEAM) .
• Meta fikk sju dager til å gi en detaljert forklaring eller risikere rettslige skritt, inkludert potensielle straffer i henhold til Indias IT-lov og POCSO-loven .
• Regjeringen krevde spesifikt at Meta forklarte hvordan annonsegjennomgangssystemet hadde godkjent slikt innhold for betalt distribusjon .

EUs fremtidsrettede forbud

EUs regulatoriske respons var strukturell og lovgivende snarere enn en spesifikk håndhevelsesaksjon mot Meta for disse annonsene. EU-aktforordningen (AI Act) inneholder nå en ny bestemmelse som forbyr generering av CSAM fra 2. desember 2026 . Dette retter seg direkte mot KI-generert overgrepsmateriale som det i WIRED-rapporten.

AI Act pålegger også utviklere og tilbydere av KI-verktøy å sikre sikkerhet og åpenhet, og krever at KI-generert innhold skal være identifiserbart . Separat hadde Europakommisjonen allerede bøtelagt Meta med 200 millioner euro i april 2025 for manglende etterlevelse av EUs digital markedsakt (Digital Markets Act) knyttet til deres «Consent or Pay»-annonsemodell, men dette tiltaket var ikke direkte relatert til CSAM .

Hva dette betyr

De to granskningene avslører en systemisk svikt i Metas annonsegjennomgangsinfrastruktur. Til tross for klare retningslinjer, klarte KI-generert CSAM å snike seg gjennom i flere måneder på tvers av flere plattformer. Indias raske respons – et sju-dagers ultimatum – signaliserer økende utålmodighet blant myndigheter med plattformers selvregulering. EUs forbud setter samtidig en global presedens ved å forby selve genereringen av CSAM, ikke bare distribusjonen.