Meta-partner plaatste duizenden verboden AI-advertenties op Facebook en Instagram

De apps in kwestie kunnen foto’s van echte mensen digitaal bewerken zodat het lijkt alsof zij naakt zijn, of hun gezicht in seksueel expliciete beelden en video’s plaatsen. Daarmee gaat het om niet-consensuele intieme beelden: seksueel materiaal waarin iemand zonder toestemming wordt afgebeeld.

Een netwerk van honderden pagina’s

De onderzoekers gebruikten gegevens uit Meta’s eigen advertentiebibliotheek. Daaruit kwam een omvangrijk netwerk naar voren:

• Meer dan 7.600 advertenties promootten apps die kleding digitaal van foto’s van vrouwen verwijderen .
• 210 Facebookpagina’s vermeldden GatherOne als adverteerder en betaler .
• Op 179 pagina’s, 85 procent van het totaal, stonden advertenties die Meta later verwijderde wegens overtredingen rond seksuele uitbuiting, seksuele benadering of naaktheid .
• In meerdere advertenties waren vrouwen te zien die zich uitkleedden of seksuele handelingen simuleerden .
• Gebruikersrecensies van een van de gepromote apps wezen volgens TTP bovendien op materiaal dat mogelijk seksueel misbruik van kinderen betrof .

Volgens TTP raakten de advertenties drie soorten Meta-beleid: het verbod op reclame voor apps die niet-consensuele intieme beelden maken, de regels voor naaktheid en seksueel suggestieve inhoud, en het verbod op niet-authentiek gedrag, zoals het gebruik van nepaccounts .

Wat doet GatherOne precies?

GatherOne is geen gewone adverteerder. Het bedrijf behoort tot een kleine groep van elf officieel aangewezen, zogenoemde ‘top-tier’ wederverkopers van Meta-advertenties in China . Omdat Facebook en Instagram in China zelf zijn geblokkeerd, gebruiken Chinese bedrijven zulke tussenpartijen om toch buitenlandse doelgroepen te bereiken.

De koppeling met GatherOne komt rechtstreeks uit de gegevens van Meta’s advertentiebibliotheek: de betreffende accounts noemden GatherOne als de partij die de advertenties plaatste en betaalde . Volgens het rapport verwerkt GatherOne in totaal meer dan 30.000 advertenties per maand. Dat kan mede verklaren waarom het netwerk niet in één keer door Meta’s controlesystemen werd ontmanteld, al heeft Meta dat niet bevestigd .

Reacties van Meta en GatherOne

Meta reageerde niet rechtstreeks op alle vragen van TTP, maar zei tegen Bloomberg dat het bedrijf ‘agressieve stappen’ onderneemt tegen nudify-apps. Adverteerders die de regels overtreden, kunnen volgens Meta te maken krijgen met verwijderde advertenties, financiële sancties en beëindiging van hun advertentieaccounts .

Cindy Southworth, Meta’s hoofd voor beleid rond de veiligheid van vrouwen, zei: “We staan niet toe dat niet-consensuele intieme beelden of nudify-apps op ons platform worden verspreid en we ondernemen agressieve stappen om ze te bestrijden” .

Meta kondigde in juni 2025 al een rechtszaak aan tegen de makers van de CrushAI-nudify-apps en presenteerde toen ook nieuwe detectietechnologie . Het TTP-rapport suggereert dat die maatregelen niet hebben voorkomen dat advertenties via een eigen geautoriseerde partner bleven verschijnen.

Na publicatie van het rapport liet GatherOne aan TTP weten dat het nieuwe aanvragen voor advertentieaccounts rond AI-nudify-, face-swap- en ‘girlfriend’-diensten heeft opgeschort. Het bedrijf zegt daarnaast bezig te zijn met een uitgebreide nalevingsverbetering om rekening te houden met de snelle ontwikkeling van synthetische media .

Waarom China belangrijk is voor Meta

De onthullingen komen op een gevoelig moment voor Meta. Chinese bedrijven zijn een belangrijke bron van advertentie-inkomsten, ook al zijn Meta’s diensten in China zelf niet vrij toegankelijk.

• Meta haalde in 2024 naar schatting 18,35 miljard dollar aan inkomsten uit China, tegenover 13,69 miljard dollar in 2023. Dat komt neer op ongeveer een tiende van de totale jaaromzet .
• Volgens een Reuters-onderzoek uit december 2025 was ongeveer 19 procent, oftewel meer dan 3 miljard dollar, afkomstig van advertenties voor onder meer oplichting, illegaal gokken, pornografie en andere verboden inhoud .
• Analisten van MoffettNathanson voorspelden dat Meta door handelstarieven mogelijk 7 miljard dollar aan Chinese advertentie-inkomsten zou kunnen verliezen .

TTP ziet de kwestie daarom als onderdeel van een breder probleem: Meta zou terughoudend kunnen zijn met handhaving wanneer strengere controles een zeer lucratieve inkomstenstroom raken. Dat is een beschuldiging van de onderzoekers, geen vastgestelde conclusie van een toezichthouder .

Wat betekent de TAKE IT DOWN Act?

De zaak speelt ook tegen de achtergrond van de Amerikaanse TAKE IT DOWN Act. Deze wet werd in het Huis van Afgevaardigden aangenomen met 409 stemmen voor en 2 tegen en op 19 mei 2025 ondertekend door president Donald Trump. De wet werd daarmee Public Law No. 119-12 .

De wet verbiedt het online publiceren van niet-consensuele intieme beelden, zowel echte beelden als door AI gemaakte afbeeldingen. Onlineplatforms moeten zulke content bovendien snel verwijderen nadat zij daarover een melding ontvangen .

De TTP-bevindingen laten volgens de onderzoekers zien dat wettelijke verplichtingen op zichzelf niet genoeg zijn. De werking ervan hangt ook af van de manier waarop platformen als Meta hun eigen systemen, advertentiepartners en moderatiebeleid toepassen.

De kern van het rapport

Het TTP-rapport schetst een duidelijke kloof tussen Meta’s formele beleid en wat er daadwerkelijk op de platforms verscheen. Een door Meta aangewezen Chinese advertentiepartner was volgens de onderzoekers betrokken bij duizenden advertenties voor apps die niet-consensuele seksuele beelden kunnen maken. Meta verwijderde een groot deel pas achteraf en heeft niet uitgelegd waarom het netwerk niet eerder volledig werd stilgelegd .

GatherOne zegt inmiddels nieuwe, gerelateerde accountaanvragen te hebben stopgezet. De grotere vraag blijft echter overeind: hoe effectief zijn Meta’s regels wanneer handhaving mogelijk ten koste gaat van miljarden dollars aan advertentie-inkomsten?