Werbung mit KI-generierten Missbrauchsbildern: Meta in der Kritik

Die Tech Transparency Project (TTP) identifizierte unabhängig mehr als 50 dieser Bild- und Videoanzeigen in Metas eigener öffentlicher Werbebibliothek, die zwischen November 2025 und August 2026 geschaltet wurden. Mehrere Anzeigen verlinkten auf sogenannte „Nudify“-Apps, die nicht-einvernehmliche sexualisierte Bilder erstellen . Die Anzeigen erreichten insgesamt tausende Nutzer in den USA, Großbritannien und mehr als einem Dutzend europäischer Länder .

Wie Metas eigene Systeme versagten

Metas Werberichtlinien verbieten ausdrücklich Anzeigen, die CSAM enthalten oder für Nudify-Apps werben . Dennoch wurden diese Anzeigen mithilfe von Metas eigenen Transparenztools entdeckt. TTP-Forscher fanden heraus, dass einige Anzeigen mit dem in Peking ansässigen Unternehmen GatherOne Inc. verknüpft waren, einem zugelassenen Meta-Werbepartner. GatherOne hatte rund 7.600 Anzeigen für KI-Nudify-Apps auf Facebook und Instagram platziert . TTP identifizierte 210 Facebook-Seiten, die mit GatherOne verbunden waren, von denen zum Zeitpunkt der Recherche noch 85 aktiv waren .

Meta erklärte später, die meisten Anzeigen hätten nur eine geringe Reichweite erzielt und seien nach einer Überprüfung deaktiviert worden. Das Unternehmen führte das Versagen auf Erkennungssysteme zurück, die älter seien als seine neueren KI-Moderationstools .

Indiens schnelle Reaktion

Die indische Regierung reagierte scharf auf die Enthüllungen. Nach einer separaten BBC-Eye-Investigation, die zeigte, dass Instagram bezahlte Anzeigen schaltete, die explizit CSAM bewarben – mit Suchbegriffen wie „Vergewaltigungsvideo“ und „Kindervideo“, die zu Telegram-Kanälen führten – ergriff das indische Ministerium für Elektronik und Informationstechnologie (MeitY) mehrere Maßnahmen:

• IT-Minister Ashwini Vaishnaw wies MeitY an, Meta zu einer formellen Stellungnahme vorzuladen .
• MeitY erließ eine formelle Anordnung, in der Meta aufgefordert wurde, alle Werbeanzeigen und Inhalte auf Instagram, die Material zur sexuellen Ausbeutung und Missbrauch von Kindern (CSEAM) bewerben oder den Zugang dazu erleichtern, sofort zu deaktivieren .
• Meta erhielt sieben Tage Zeit, um eine detaillierte Erklärung abzugeben oder rechtliche Schritte zu riskieren, darunter mögliche Strafen nach Indiens IT-Gesetz und dem POCSO-Gesetz .
• Die Regierung forderte Meta konkret auf, zu erklären, wie sein Anzeigenprüfsystem solche Inhalte für die bezahlte Verbreitung freigegeben hatte .

Die EU-Verbotsregelung

Die Reaktion der EU war strukturell und gesetzgeberischer Natur – sie war keine direkte Maßnahme gegen Meta für diese spezifischen Anzeigen. Der EU AI Act enthält eine neue Bestimmung, die die Erstellung von CSAM ab dem 2. Dezember 2026 generell verbieten wird . Dies betrifft direkt KI-generierte Missbrauchsinhalte, wie sie im WIRED-Bericht beschrieben werden.

Der AI Act verpflichtet zudem Anbieter und Betreiber von KI-Tools zu Sicherheit und Transparenz und schreibt vor, dass KI-generierte Inhalte erkennbar sein müssen . Unabhängig davon hatte die Europäische Kommission Meta bereits im April 2025 mit einer Geldstrafe von 200 Millionen Euro wegen Verstoßes gegen den Digital Markets Act belegt – allerdings bezog sich diese Maßnahme auf das Werbemodell „Zustimmung oder Bezahlung“ und nicht direkt auf CSAM .

Was das bedeutet

Die beiden Recherchen offenbaren ein systemisches Versagen in der Werbeprüfinfrastruktur von Meta. Trotz klarer Richtlinien schlüpften KI-generierte Missbrauchsinhalte monatelang durch die Maschen. Indiens schnelle Reaktion – ein Ultimatum von sieben Tagen – signalisiert wachsende Ungeduld von Regierungen mit der Selbstregulierung der Plattformen. Das EU-Verbot setzt derweil einen globalen Präzedenzfall, indem es nicht nur die Verbreitung, sondern bereits die Erstellung von CSAM unter Strafe stellt.