NYT onthult: Meta’s AI verwijdert per ongeluk duizenden accounts op Facebook en Instagram

Meta's reactie

Meta gaf in sommige gevallen de fouten toe en herstelde bepaalde geblokkeerde accounts na vragen van de NYT. Het bedrijf stelt echter dat de nieuwe AI-moderationtools gemiddeld minder fouten maken dan menselijke moderators . Dit past in Meta's bredere strategische verschuiving: het vervangen van menselijke contentmoderatie door AI. Het bedrijf bevestigde deze overgang in januari 2026 en schrapte duizenden banen voor ingehuurde moderators .

Wat de Oversight Board van Meta zei

De Oversight Board, het onafhankelijke toezichtsorgaan van Meta, sprak zich in juni 2026 uit over het bredere probleem van accountdeactivering:

• Op 4 juni 2026 stelde de Board dat Meta's accountdeactiveringsproces geen eerlijk proces ('due process') biedt, dat overtredingen onduidelijk worden gecommuniceerd en dat klantenservice voor bezwaren vrijwel niet bestaat .
• De Board kondigde aan dat het voor de eerste keer Meta's algehele aanpak van permanent accountverwijdering zou onderzoeken .
• In een aparte uitspraak van 24 juni 2026 over een doodsbedreigingszaak handhaafde de Board het specifieke verbod, maar bekritiseerde opnieuw de ondoorzichtigheid van Meta's beleid .

Het verband met Meta's personeelsreducties

De onterechte AI-verwijderingen houden direct verband met Meta's personeelsstrategie:

• In april 2026 kondigde Meta aan 10% van het personeelsbestand (ongeveer 8.000 medewerkers) te schrappen en 6.000 openstaande functies te laten vervallen, expliciet om middelen vrij te maken voor AI-ontwikkeling .
• De ontslagen begonnen in mei 2026, troffen duizenden mensen, en overgebleven werknemers werden overgeplaatst naar AI-gerichte functies .
• In juni 2026 werd gemeld dat Meta menselijke contentmoderators al had vervangen door AI-systemen, waarmee duizenden banen voor ingehuurde moderators verdwenen .
• Eerdere ontslagen in oktober 2025 troffen ook medewerkers die toezicht hielden op gebruikersveiligheid en privacyrisico's, waardoor menselijk toezicht afnam terwijl geautomatiseerde moderatie werd uitgebreid .

Kortom: dezelfde AI-systemen die Meta opschaalt om menselijke moderators te vervangen (als onderdeel van een bredere AI-gedreven reorganisatie) produceren grootschalige, niet-gecorrigeerde fouten – ze blokkeren en verwijderen legitieme accounts, terwijl gebruikers nauwelijks een werkende bezwaarprocedure hebben.