L'inchiesta del NYT sull'IA di Meta: account Facebook e Instagram cancellati per errore e un sistema di appello inefficace

La risposta di Meta

Meta ha riconosciuto gli errori in alcuni casi e ha ripristinato alcuni account banditi dopo l'inchiesta del NYT. Tuttavia, l'azienda ha sostenuto che i suoi nuovi strumenti di moderazione basati sull'IA commettono meno errori rispetto ai moderatori umani . Questa posizione si allinea con la strategia più ampia di Meta di sostituire la moderazione umana con l'IA — una transizione che l'azienda ha confermato a partire da gennaio 2026, eliminando migliaia di posti di lavoro per moderatori .

Cosa ha detto l'Oversight Board di Meta

L'Oversight Board (il comitato di supervisione indipendente di Meta) è intervenuto sulla questione più ampia della disabilitazione degli account nel giugno 2026:

• Il 4 giugno 2026, il Board ha dichiarato che il processo di disattivazione degli account di Meta manca di un giusto processo, che le violazioni vengono comunicate senza chiarezza e che il supporto clienti per i ricorsi è praticamente inesistente .
• Il Board ha annunciato che avrebbe esaminato, per la prima volta, l'approccio complessivo di Meta alla disabilitazione permanente degli account .
• In una decisione separata del 24 giugno 2026 su un caso di minacce di morte, il Board ha confermato il ban specifico ma ha nuovamente criticato l'opacità delle politiche di Meta .

Il legame con i tagli al personale di Meta

Le cancellazioni errate guidate dall'IA sono direttamente collegate alla strategia di Meta sulla forza lavoro:

• Nell'aprile 2026, Meta ha annunciato il taglio del 10% della sua forza lavoro (circa 8.000 dipendenti) e l'eliminazione di 6.000 posizioni aperte, per reindirizzare esplicitamente le risorse verso lo sviluppo dell'IA .
• I licenziamenti sono iniziati a maggio 2026, colpendo migliaia di persone, con i lavoratori rimasti riallocati in ruoli incentrati sull'IA .
• Nel giugno 2026, è stato riferito che Meta aveva già iniziato a sostituire i moderatori di contenuti umani con sistemi di IA, eliminando migliaia di posti di lavoro per moderatori .
• I tagli precedenti, nell'ottobre 2025, avevano incluso anche dipendenti che monitoravano la sicurezza e i rischi per la privacy degli utenti, riducendo la supervisione umana proprio mentre la moderazione automatizzata si espandeva .

In breve: gli stessi sistemi di IA che Meta sta potenziando per sostituire i moderatori umani (come parte della sua più ampia ristrutturazione della forza lavoro guidata dall'IA) stanno producendo errori su larga scala e non corretti — cancellando account legittimi con poche possibilità di ricorso efficaci.