TTP: Meta lot 332 mistenkte KI-annonser med overgrepsmateriale mot barn nå ut

Tech Transparency Project (TTP) opplyste 8. september at Meta hadde distribuert 332 betalte annonser på Facebook og Instagram med mistenkt KI-generert materiale som viser seksuelle overgrep mot barn, ofte omtalt som CSAM. Annonsene skal ha vært aktive fra november 2025 til august 2026 og nådd over 29 000 brukere i flere regioner. TTP understreket samtidig at dataene i Metas offentlige annonsebibliotek ikke gir et komplett bilde av distribusjonen, særlig utenfor regionene med særskilte innsynskrav. 69

Dette skal TTP ha funnet

Ifølge TTP brukte annonsene KI-genererte eller KI-manipulerte bilder for å seksualisere barn. Mange skal ha promotert såkalte «nudify»-apper eller deepfake-lignende verktøy, altså tjenester som digitalt kan gjøre bilder seksuelt eksplisitte. TTP opplyste at enkelte bilder så ut til å være basert på fotografier av virkelige barn, blant annet et medlem av en europeisk kongefamilie. 910

Annonsene ble ifølge undersøkelsen vist i EU og Storbritannia, USA, India og Australia. TTP identifiserte 84 annonser i India og 120 som var rettet mot brukere i Australia, mens flertallet skal ha vært vist i EU og Storbritannia. 112

TTP knyttet flere av annonsene til utviklere av KI-apper og til Metas kinesiske nettverk av annonseformidlere. Rapporten nevnte blant annet GIMC og BlueFocus, mens annen dekning beskrev at mange av annonsene markedsførte deepfake-baserte «nudify»-apper. 96

Hvorfor betalte annonser gjør saken særlig alvorlig

Kjernen i saken er at dette ikke bare dreier seg om skadelig innhold publisert av brukere. Det var betalte annonser som, ifølge TTPs funn, ble sendt inn i Metas annonsesystem, passerte selskapets kontroll og deretter ble distribuert til brukere.

TTP mener dette peker på svikt både i gjennomgangen av reklameinnhold og i kontrollen av annonsører. Organisasjonen opplyste at mye av materialet var åpenbart, ikke skjult bak tvetydige formuleringer eller diskrete visuelle signaler. TTP sa også at Meta først registrerte 113 fjernede annonser under kategorier for seksuelt vokseninnhold eller mer generelle regelbrudd, før selskapet etter TTPs henvendelse endret klassifiseringen til utnyttelse av barn. 9

Klassifiseringen har betydning for åpenhet og håndheving: Dersom forbudte annonser ikke konsekvent registreres som innhold knyttet til utnyttelse av barn, kan offentlige tall over fjerninger gi et uklart bilde av både omfanget og typen regelbrudd. 9

Metas svar og fjerningene

Metas talsperson Andy Stone sa at selskapet forbyr «nudify»-apper og all utnyttelse av barn, «enten materialet er ekte eller KI-generert». Han sa at aktører som forsøker å omgå reglene stadig endrer framgangsmåte, og at Meta derfor må fortsette å forbedre oppdagelse og håndheving. 3

Meta har også sagt at mange av annonsene hadde begrenset rekkevidde, at noen var deaktivert før ekstern varsling, og at enkelte ble publisert før nye verktøy for å oppdage og blokkere regelstridige KI-relaterte annonser ved opplasting var innført. 11

TTP opplyste at Meta hadde fjernet 183 av de 332 annonsene innen 1. september. Etter at TTP delte funnene 2. september, skal Meta ha fjernet de siste 149 annonsene og omklassifisert 113 andre under regler om utnyttelse av barn. 9

TTP sa likevel at lignende annonser fortsatte å dukke opp i dagene etterpå, blant annet en annonse som involverte den mindreårige fra den europeiske kongefamilien. Fjerningene tok dermed tak i de konkrete annonsene TTP hadde identifisert, men dokumenterte ikke i seg selv at den underliggende kontrollsvikten var løst. 9

Økt regulatorisk og politisk press

Rapporten kom samtidig som Meta var under bredere gransking av selskapets håndtering av unge brukere og plattformsikkerhet. TTP knyttet funnene til et mulig forlik på 18 milliarder dollar med amerikanske delstatsjustisministre, i en sak om påstander om at Metas produkter har skadet unge. 9

Senator Mark Warner hadde tidligere bedt Meta forklare hvordan utnyttende annonser kunne slippe gjennom systemene. Han pekte også på at Metas offentlige annonsebibliotek ikke ga brukere noen måte å rapportere problematiske annonser på. 17

I India ba den nasjonale menneskerettighetskommisjonen om svar fra departementer og politiet etter meldinger om at betalte Instagram-annonser hadde markedsført eller gjort det lettere å få tilgang til materiale som viser seksuelle overgrep mot barn. 2218

Slik rapporterte TTP annonsene

TTP opplyste at organisasjonen rapporterte hver annonse den identifiserte til National Center for Missing & Exploited Children (NCMEC), blant annet gjennom CyberTipline. Denne rapporteringskanalen gjør at mistanke om digital utnyttelse av barn kan vurderes og, når det er grunnlag for det, videreformidles til politiet. 93

Hovedpoenget fra rapporten er at forebygging av KI-misbruk ikke kan begrenses til moderering etter publisering. For betalt annonsering ligger det viktigste kontrollpunktet tidligere i prosessen: kontroll av annonsører, gjennomgang av annonseinnhold, automatisert oppdagelse, korrekt regelklassifisering og rask handling når misbruk avdekkes.