Meta-Fehlgriffe: Wie KI tausende legitime Facebook- und Instagram-Konten löschte

Hier ist eine faktengeprüfte Zusammenfassung auf Basis der verfügbaren Quellen.

Was die NYT-Recherche enthüllte

Am 21. Juli 2026 veröffentlichte die New York Times eine Investigation von Stuart A. Thompson und Eli Tan, die dokumentiert, wie Metas KI-gestützte Moderationssysteme massenhaft Facebook- und Instagram-Konten fälschlicherweise markierten und löschten . Zu den zentralen Erkenntnissen gehören:

• Viele legitime Geschäfts- und Creator-Konten wurden wegen vager Verstöße wie „Betrug und Täuschung“ ohne konkrete Erklärung gesperrt .
• Ein prominentes Beispiel ist Camille Hanson, deren Konten mit knapp einer Million Follower – mit denen sie einen Englisch-Unterrichts-Betrieb führte – über Nacht zur Löschung markiert wurden .
• Wenn Nutzer Einspruch einlegten, wurden ihre Fälle oft wieder an dasselbe KI-System weitergeleitet, statt zu einem menschlichen Prüfer zu gelangen – eine Sackgasse .
• Einige Konten, darunter Hansons, wurden erst wiederhergestellt, nachdem NYT-Journalisten direkt interveniert hatten .

Metas Reaktion

Meta räumte die Fehler in einigen Fällen ein und stellte bestimmte gesperrte Konten nach der NYT-Anfrage wieder her. Das Unternehmen argumentiert jedoch, dass seine neuen KI-Moderationstools insgesamt weniger Fehler machten als menschliche Moderatoren . Diese Haltung passt zu Metas strategischer Neuausrichtung, menschliche Inhaltsmoderatoren durch KI zu ersetzen – ein Übergang, den das Unternehmen ab Januar 2026 bestätigte und bei dem tausende Vertragsarbeitsplätze in der Moderation gestrichen wurden .

Was das Oversight Board sagte

Das Oversight Board äußerte sich im Juni 2026 zu dem umfassenderen Problem der Kontosperrungen:

• Am 4. Juni 2026 erklärte das Board, Metas Kontodeaktivierungsverfahren entbehre rechtsstaatlicher Standards, Verstöße würden ohne Klarheit mitgeteilt, und der Kundensupport für Einspruchsverfahren sei praktisch nicht existent .
• Das Board kündigte an, erstmals Metas gesamten Ansatz zur dauerhaften Deaktivierung von Konten zu überprüfen .
• In einem separaten Urteil vom 24. Juni 2026 zu einem Todesdrohungs-Fall bestätigte das Board zwar die konkrete Sperrung, kritisierte aber erneut die Intransparenz von Metas Richtlinien .

Zusammenhang mit Metas Personalabbau

Die KI-basierten Fehllöschungen stehen in direktem Zusammenhang mit Metas Personalstrategie:

• Im April 2026 kündigte Meta an, 10 % seiner Belegschaft (ca. 8.000 Mitarbeiter) zu streichen und 6.000 offene Stellen zu eliminieren – ausdrücklich, um Ressourcen in die KI-Entwicklung umzuleiten .
• Die Entlassungen begannen im Mai 2026 und betrafen tausende Mitarbeiter, während verbleibende Angestellte in KI-zentrierte Rollen versetzt wurden .
• Im Juni 2026 wurde berichtet, dass Meta bereits begonnen hatte, menschliche Inhaltsmoderatoren durch KI-Systeme zu ersetzen, wodurch tausende Vertragsarbeitsplätze in der Moderation wegfielen .
• Frühere Kürzungen im Oktober 2025 betrafen auch Mitarbeiter, die für die Überwachung von Nutzersicherheit und Datenschutzrisiken zuständig waren – dies reduzierte die menschliche Aufsicht genau in dem Moment, als die automatisierte Moderation ausgeweitet wurde .

Kurz gesagt: Dieselben KI-Systeme, die Meta hochfährt, um menschliche Moderatoren zu ersetzen (im Rahmen seines umfassenden KI-getriebenen Personalumbaus), produzieren großflächige, unkorrigierte Fehler – sie markieren und löschen legitime Konten, ohne dass Betroffene wirksame Einspruchsmöglichkeiten hätten.