Wegweisendes Urteil: Meta muss KI-Deepfake löschen und Regeln verschärfen

Die geforderten Reformen im Überblick

Der Board begnügte sich nicht mit dem Einzelfall, sondern verlangte weitreichende Änderungen der Konzernrichtlinien . Die zentralen Forderungen:

KI-Identitätstäuschung als grundsätzlich nicht einvernehmlich

Der Board erklärte ausdrücklich, dass KI-generierte Identitätstäuschungen in sexualisierten Kontexten als „standardmäßig nicht einvernehmlich" (non-consensual by default) gelten müssen . Künftig soll nicht mehr das Opfer beweisen müssen, dass keine Einwilligung vorlag – vielmehr muss die Plattform den inhärenten Schaden solcher Inhalte anerkennen .

Vertrauenspersonen dürfen für Opfer melden

Eine der wichtigsten Verfahrensänderungen: Nutzer sollen „verbundene Konten" benennen können – etwa enge Freunde oder Familienmitglieder – die dann für das Opfer Verstöße melden dürfen . Das schließt eine entscheidende Lücke, denn Betroffene sind oft traumatisiert oder gar nicht über die Existenz des Materials informiert.

Separate globale Meldekategorie für KI-erzeugte Sexualinhalte

Der Board forderte Meta auf, eine eigene globale Meldekategorie für KI-generierte nicht einvernehmliche Sexualdarstellungen zu schaffen . Bisher werden solche Fälle oft nur als allgemeine Form von Belästigung oder Mobbing eingeordnet, was die Erkennung und Nachverfolgung erschwert.

Neue Begrifflichkeit: Von „Photoshop" zur „nicht einvernehmlichen" Manipulation

Der Board kritisierte bereits in der Vergangenheit Metas veraltete Terminologie, die von „herabwürdigender sexualisierter Photoshop-Nachbearbeitung" sprach . Stattdessen sollen klare und präzise Begriffe verwendet werden, die den nicht einvernehmlichen Charakter des Inhalts in den Vordergrund stellen .

Herkunftsnachweise für KI-Inhalte und bessere Erkennung

In einem parallelen Fall verlangte der Board außerdem den systematischen Einsatz von Content-Credentials nach dem C2PA-Standard . Dieser Standard dokumentiert Herkunft und Veränderungen von Medien. Der Board stellte fest, dass Metas Systeme derzeit zu sehr auf die Eigenkennzeichnung durch Nutzer angewiesen sind und keine ausreichende automatisierte Erkennung bieten – insbesondere bei Video und Audio .

Fokus: Schutz von Privatpersonen

Ein zentrales Thema der Entscheidung war die Schutzlücke für gewöhnliche, nicht-öffentliche Personen. Der Board betonte, dass diese besonders stark unter der derzeitigen Regelung leiden, die von ihnen selbst den Nachweis der fehlenden Einwilligung verlangt . Im konkreten Fall ging es um eine Frau, die von einer Freundin vertreten wurde .

Geschlechterspezifische Gewalt im Blick

Der Board würdigte auch die unverhältnismäßig starke Betroffenheit von Frauen und Mädchen durch solche Deepfakes. Mit der Forderung nach besserer automatischer Erkennung, einer Verlagerung der Beweislast und klareren Richtlinien zielt das Gremium auf die systematische Natur dieser geschlechtsspezifischen Online-Gewalt ab .

Wie geht es weiter?

Meta hat nun 60 Tage Zeit, auf die Empfehlungen des Oversight Board zu reagieren . Während die Löschung des konkreten Videos bindend ist, sind die grundsätzlichen Politikempfehlungen formal nicht bindend – sie tragen aber erhebliches öffentliches und reputationsbezogenes Gewicht . Das Urteil knüpft an frühere Board-Entscheidungen von 2024 und 2025 an, die Metas Deepfake-Regeln bereits als „inkohärent" und „nicht ausreichend klar" bezeichnet hatten .