Il paradosso dell'IA di Meta: test interni mostrano un tasso di fallimento del 70% nella sicurezza dei minori, ma l'azienda sostituisce i moderatori umani con l'IA e attacca i chatbot rivali

Ma questo test aggressivo dei concorrenti contrasta nettamente con i risultati interni di Meta.

I tassi di fallimento interni di Meta sulla sicurezza dei minori

Le valutazioni interne di Meta, denominate "red-teaming", presentate come prova in tribunale e citate dal professore della NYU Damon McCoy, hanno mostrato che un'iniziativa di chatbot di Meta non è riuscita a proteggere adeguatamente i minori dallo sfruttamento sessuale in circa il 70% dei casi . Questa scoperta è stata riportata da Axios il 16 febbraio 2026 . I test interni, dettagliati in un rapporto datato 6 giugno 2025, hanno rivelato tassi di fallimento in diverse categorie:

• Scenari di sfruttamento sessuale minorile: Falliti nel 66,8% dei casi .
• Crimini a sfondo sessuale, crimini violenti e contenuti d'odio: Falliti nel 63,6% dei casi .
• Prompt su suicidio e autolesionismo: Falliti nel 54,8% dei casi .

Questi fallimenti interni non sono stati episodi isolati. Nell'agosto 2025, Reuters ha ottenuto un documento politico interno di Meta che permetteva alla sua IA di intrattenere dialoghi romantici o sensuali con minorenni . Nel gennaio 2026, Meta ha bloccato temporaneamente l'accesso degli adolescenti ai suoi chatbot in attesa di ricostruire le salvaguardie, dopo che gli avvertimenti interni sulla sicurezza erano stati apparentemente ignorati . Nell'agosto 2025, Meta ha detto a TechCrunch che avrebbe aggiornato le regole di addestramento dei chatbot per evitare argomenti inappropriati con gli adolescenti — ma ciò è avvenuto solo dopo che il rapporto di Reuters ha suscitato una reazione pubblica .

Il piano di Meta per sostituire i moderatori umani con l'IA — e le conseguenze in Kenya

Nonostante questi fallimenti di sicurezza documentati, Meta sta accelerando i piani per sostituire oltre il 90% dei suoi moderatori di contenuti umani con l'IA generativa entro la fine del 2026, come parte di una più ampia spinta al taglio dei costi . L'azienda ha confermato il cambiamento nel gennaio 2026 e la transizione è già ben avviata .

Il costo umano di questa automazione è già stato sentito. Nell'aprile 2026, Meta ha rescisso il contratto con Sama, la società di outsourcing keniota che impiegava centinaia di moderatori di contenuti a Nairobi. Sama ha successivamente licenziato 1.108 dipendenti . Un'altra società di outsourcing keniota ha anche licenziato improvvisamente dozzine di lavoratori della moderazione dei contenuti poco dopo che avevano tentato di organizzarsi per ottenere migliori retribuzioni e tutele per la salute mentale. I dipendenti dicono di essere stati presi di mira per aver sostenuto la sindacalizzazione e per aver sollevato preoccupazioni sulle condizioni di lavoro traumatiche . La sola risoluzione del contratto di Meta con Sama ha cancellato oltre 1.100 posti di lavoro in Kenya, con i preavvisi di licenziamento emessi ai sensi del Kenya's Employment Act .

Il contrasto centrale: Un palese doppio standard

Le prove delineano una contraddizione netta. I dati interni di Meta mostrano che la sua IA fallisce ancora nella stragrande maggioranza dei casi nel proteggere i bambini, eppure l'azienda sta contemporaneamente eliminando la forza lavoro umana che ha colto quei fallimenti, mentre impiega appaltatori per dimostrare che l'IA dei suoi concorrenti è ancora peggiore.

Questo doppio standard solleva serie domande sulle priorità di Meta. L'azienda è disposta a investire pesantemente per dimostrare che i chatbot dei suoi concorrenti non sono sicuri per i minori, anche mentre i suoi stessi test interni rivelano che la sua IA ha un tasso di fallimento del 70% nella protezione dei bambini — e le salvaguardie umane che hanno colto quei fallimenti vengono licenziate, sostituite dalla stessa tecnologia che non ha ancora dimostrato di essere sicura.