Crisi della moderazione AI di Meta: i ban errati distruggono account legittimi senza possibilità di appello

Cosa ha rivelato l'inchiesta del NYT

L'indagine ha scoperto che i sistemi di moderazione automatizzata di Meta, che ora gestiscono circa il 95% dei primi controlli, stanno producendo allarmanti falsi positivi :

• Violazioni vaghe senza spiegazione: gli account vengono segnalati per motivi generici come "frode e inganno" senza specificare quale post o comportamento abbia attivato la segnalazione .
• Il caso di Camille Hanson: un caso emblematico è quello di Camille Hanson, i cui account Facebook e Instagram — usati con suo marito per insegnare inglese a non madrelingua e con quasi un milione di follower — sono stati improvvisamente segnalati per la cancellazione nel marzo 2026. La notifica è arrivata nel cuore della notte .
• Un loop di appello senza uscita: quando gli utenti fanno appello, i loro casi vengono spesso reindirizzati agli stessi sistemi di AI invece di arrivare a un revisore umano, creando un loop inestricabile. Una risposta all'appello affermava semplicemente: "Toda tu información se eliminará de forma permanente. No puedes solicitar otra revisión de esta decisión" .
• Intervento dei media necessario: alcuni account, incluso quello di Hanson, sono stati ripristinati solo dopo l'intervento diretto dei giornalisti del NYT .

La risposta di Meta: ammette errori, difende l'AI

In seguito all'inchiesta del NYT, Meta ha riconosciuto errori in alcuni casi e ripristinato alcuni account bannati. Tuttavia, l'azienda ha sostenuto che i suoi nuovi strumenti di moderazione AI commettono meno errori dei moderatori umani — affermando una riduzione del 13% degli errori e un aumento del 10% nell'individuazione delle violazioni .

Questa posizione fa parte di un più ampio cambiamento strategico di Meta. L'azienda ha confermato nel gennaio 2025 che i sistemi automatizzati avrebbero assunto la responsabilità principale per l'identificazione e la rimozione di contenuti che violano le policy su Facebook, Instagram e WhatsApp . Entro la metà del 2026, migliaia di posti di lavoro di moderatori in appalto erano stati eliminati come parte di questa transizione .

Cosa ha detto l'Oversight Board di Meta

L'Oversight Board indipendente di Meta è intervenuto sulla questione più ampia della disabilitazione degli account nel giugno 2026, e le sue conclusioni sono state nette:

• Il 4 giugno 2026, il Board ha affermato che il processo di disattivazione degli account di Meta manca di giusto processo, che le violazioni vengono comunicate senza chiarezza e che il supporto clienti per gli appelli è quasi inesistente .
• Il Board ha annunciato che avrebbe esaminato, per la prima volta, l'approccio complessivo di Meta alla disabilitazione permanente degli account .
• In una successiva decisione del 24 giugno 2026 su un caso di minacce di morte, il Board ha confermato il divieto specifico ma ha nuovamente criticato l'opacità delle policy di Meta .

Le conclusioni del Board riecheggiano direttamente le lamentele di utenti come Hanson: il sistema non offre alcuna via significativa per contestare una decisione generata dall'AI.

Il collegamento con la forza lavoro: meno umani, più errori AI

Le cancellazioni errate non sono un problema tecnico isolato. Sono una conseguenza prevedibile della strategia di Meta sulla forza lavoro:

• Aprile 2026: Meta ha annunciato il taglio del 10% della sua forza lavoro (circa 8.000 dipendenti) e l'eliminazione di 6.000 posizioni aperte, esplicitamente per reindirizzare le risorse verso lo sviluppo dell'AI .
• Maggio 2026: iniziano i licenziamenti, con i lavoratori rimanenti riassegnati a ruoli incentrati sull'AI .
• Ottobre 2025: i tagli precedenti avevano già incluso oltre 100 dipendenti del team di revisione dei rischi di Meta, esattamente i team responsabili del monitoraggio della sicurezza e della privacy degli utenti .
• Giugno 2026: rapporti confermano che Meta ha già iniziato a sostituire i moderatori di contenuti umani con sistemi AI, eliminando migliaia di posti di lavoro di moderazione in appalto .

I moderatori umani e i revisori dei rischi rimossi erano esattamente la forza lavoro necessaria per gestire il tipo di revisione sfumata in cui i sistemi AI falliscono sistematicamente. Gli stessi sistemi AI che Meta sta potenziando stanno producendo errori su larga scala e non corretti — segnalando e cancellando account legittimi con poche vie praticabili per l'appello.

In conclusione

L'inchiesta del NYT, combinata con i risultati dell'Oversight Board e i documentati tagli alla forza lavoro, dipinge un quadro chiaro: il sistema di moderazione basato sull'AI di Meta sta generando un numero massiccio di falsi positivi, il processo di appello è funzionalmente rotto e l'azienda ha licenziato proprio le persone che avrebbero potuto risolvere il problema — il tutto mentre l'azienda difende la tecnologia sostenendo che commette meno errori degli umani che ha sostituito.