Rapport: Meta viste 332 mistænkte AI-annoncer med seksuelt misbrug af børn

Tech Transparency Project (TTP) oplyste den 8. september, at Meta fra november 2025 til august 2026 viste 332 betalte annoncer på Facebook og Instagram med mistænkt AI-genereret materiale om seksuelt misbrug af børn. Annoncerne nåede ifølge organisationen mere end 29.000 brugere på tværs af flere regioner. TTP understregede samtidig, at data fra Metas offentlige Ad Library ikke giver et fuldstændigt billede af udbredelsen – især uden for de regioner, hvor platformen offentliggør detaljerede oplysninger. 69

Hvad fandt undersøgelsen?

Ifølge TTP brugte annoncerne AI-genererede eller AI-manipulerede billeder til at seksualisere børn. Mange reklamer henviste til såkaldte „nudify“-apps eller deepfake-lignende tjenester, altså værktøjer der kan ændre billeder til seksuelt indhold. TTP vurderede, at nogle af billederne så ud til at være baseret på fotos af virkelige børn, herunder et medlem af en europæisk kongefamilie. 910

Annoncerne blev set i EU og Storbritannien samt i USA, Indien og Australien. TTP identificerede 84 annoncer i Indien og 120, der var målrettet brugere i Australien, mens hovedparten ifølge rapporteringen kørte i EU og Storbritannien. 112

TTP kædede mange af annoncerne sammen med udviklere af AI-apps og Metas kinesiske netværk af annonceresælgere. Rapporten nævner blandt andre GIMC og BlueFocus, mens anden dækning beskriver mange af annoncerne som reklame for deepfake-baserede nudify-apps. 96

Derfor er det særligt alvorligt, at der var tale om annoncer

Sagen handler ikke kun om skadeligt indhold, der er lagt op af brugere. Der var tale om betalt reklame, som ifølge TTP var indsendt til Metas annoncesystem, gennemgik platformens kontrol og derefter blev sendt ud til brugere.

TTP mener derfor, at sagen peger på svigt både i gennemgangen af annoncemateriale og i kontrollen af annoncørerne. Organisationen oplyste, at store dele af billedmaterialet var åbenlyst og ikke blot skjult bag vage formuleringer eller tvetydige billeder. Den oplyste også, at Meta først registrerede 113 fjernede annoncer under kategorier som voksenseksuelt indhold eller mere generelle brud på reglerne. Efter TTP rejste sagen, blev disse meddelelser ændret til kategorien udnyttelse af børn. 9

Klassificeringen har betydning for gennemsigtigheden. Hvis forbudte annoncer ikke konsekvent registreres som indhold om udnyttelse af børn, kan offentlige data om fjernelser give et uklart billede af problemets omfang og karakter, påpegede TTP. 9

Metas svar og fjernelse af annoncer

Metas talsmand Andy Stone sagde, at selskabet forbyder nudify-apps og al udnyttelse af børn, „uanset om det er virkeligt eller AI-genereret“. Han sagde, at aktører, der forsøger at omgå reglerne, løbende ændrer metode, og at Meta derfor må fortsætte med at forbedre opdagelse og håndhævelse. 3

Meta har desuden sagt, at mange af annoncerne havde begrænset rækkevidde, at nogle var deaktiveret før ekstern rapportering, og at nogle var vist før indførelsen af nyere værktøjer, der skal opdage og blokere regelstridige AI-relaterede annoncer allerede ved upload. 11

Ifølge TTP havde Meta fjernet 183 af de 332 annoncer inden 1. september. Da TTP delte sine fund med selskabet 2. september, fjernede Meta de resterende 149 og ændrede klassificeringen af 113 andre annoncer til reglerne om udnyttelse af børn, oplyste organisationen. 9

TTP sagde dog, at lignende annoncer fortsat dukkede op i dagene efter – herunder en annonce med den mindreårige fra den europæiske kongefamilie. Fjernelserne omfatter dermed de identificerede reklamer, men dokumenterer ikke i sig selv, at det bagvedliggende problem med kontrolsystemerne er løst. 9

Sagen øger det politiske og regulatoriske pres

Rapporten kom på et tidspunkt, hvor Metas håndtering af mindreårige brugere og platformsikkerhed allerede var under skærpet granskning. TTP satte fundene i forbindelse med et muligt forlig på 18 mia. dollar med amerikanske delstatsanklagere i en sag om påstået skade på unge brugere. 9

Senator Mark Warner havde tidligere bedt Meta forklare, hvordan udnyttende annoncer kunne slippe igennem selskabets systemer. Han pegede også på, at brugere ikke har en mulighed for at anmelde problematiske annoncer direkte i Metas offentlige Ad Library. 17

I Indien bad den nationale menneskerettighedskommission om svar fra ministerier og politi efter rapporter om betalte Instagram-annoncer, der angiveligt promoverede eller gjorde det lettere at få adgang til materiale om seksuelt misbrug af børn. 2218

TTP anmeldte annoncerne til NCMEC

TTP oplyste, at organisationen anmeldte hver enkelt identificeret annonce til National Center for Missing & Exploited Children (NCMEC), herunder via CyberTipline. Den kanal kan bruges til at vurdere mistanke om onlineudnyttelse af børn og, hvor det er relevant, sende oplysninger videre til retshåndhævende myndigheder. 93

Rapportens centrale pointe er, at forebyggelse af AI-misbrug ikke kun kan ske gennem moderering, efter indholdet er offentliggjort. For betalte annoncer ligger det afgørende kontrolpunkt tidligere i processen: kontrol af annoncører, gennemgang af kreativt materiale, automatiseret opdagelse, korrekt regelklassificering og hurtig indgriben, når misbrug opdages.