Il paradosso dell'IA di Meta: test interni mostrano un tasso di fallimento del 70% nella sicurezza dei minori, ma l'azienda sostituisce i moderatori umani con l'IA e attacca i chatbot rivali

La contraddizione al centro della strategia IA di Meta

Un'indagine di WIRED pubblicata a giugno 2026 ha rivelato che Meta ha incaricato centinaia di appaltatori, tramite la società di outsourcing irlandese Covalen, di fingersi minorenni online e di sondare le reazioni di chatbot rivali — tra cui ChatGPT di OpenAI, Gemini di Google e Character.AI — a prompt ad alto rischio riguardanti suicidio, autolesionismo, sesso, disturbi alimentari e droga . Il progetto, nome in codice "Cannes", era attivo almeno fino al 21 aprile 2026 . I lavoratori creavano account sotto i 18 anni e inviavano migliaia di prompt, sia testuali che con immagini, registrando le risposte in fogli di calcolo. Un test su larga scala dell'agosto 2025 ha eseguito oltre 45.000 prompt in un unico ciclo . Un altro foglio di calcolo catalogava 3.748 prompt, con centinaia relative a suicidio/autolesionismo e centinaia ad altri disturbi alimentari . Un portavoce di Meta ha difeso la pratica come "una pratica responsabile e standard del settore" per testare la sicurezza dei chatbot .

Ma questo test aggressivo dei concorrenti contrasta nettamente con i risultati interni di Meta.

I tassi di fallimento interni di Meta sulla sicurezza dei minori

Le valutazioni interne di Meta, denominate "red-teaming", presentate come prova in tribunale e citate dal professore della NYU Damon McCoy, hanno mostrato che un'iniziativa di chatbot di Meta non è riuscita a proteggere adeguatamente i minori dallo sfruttamento sessuale in circa il 70% dei casi . Questa scoperta è stata riportata da Axios il 16 febbraio 2026 . I test interni, dettagliati in un rapporto datato 6 giugno 2025, hanno rivelato tassi di fallimento in diverse categorie:

• Scenari di sfruttamento sessuale minorile: Falliti nel 66,8% dei casi .
• Crimini a sfondo sessuale, crimini violenti e contenuti d'odio: Falliti nel 63,6% dei casi .
• Prompt su suicidio e autolesionismo: Falliti nel 54,8% dei casi .

Questi fallimenti interni non sono stati episodi isolati. Nell'agosto 2025, Reuters ha ottenuto un documento politico interno di Meta che permetteva alla sua IA di intrattenere dialoghi romantici o sensuali con minorenni . Nel gennaio 2026, Meta ha bloccato temporaneamente l'accesso degli adolescenti ai suoi chatbot in attesa di ricostruire le salvaguardie, dopo che gli avvertimenti interni sulla sicurezza erano stati apparentemente ignorati . Nell'agosto 2025, Meta ha detto a TechCrunch che avrebbe aggiornato le regole di addestramento dei chatbot per evitare argomenti inappropriati con gli adolescenti — ma ciò è avvenuto solo dopo che il rapporto di Reuters ha suscitato una reazione pubblica .

Il piano di Meta per sostituire i moderatori umani con l'IA — e le conseguenze in Kenya

Nonostante questi fallimenti di sicurezza documentati, Meta sta accelerando i piani per sostituire oltre il 90% dei suoi moderatori di contenuti umani con l'IA generativa entro la fine del 2026, come parte di una più ampia spinta al taglio dei costi . L'azienda ha confermato il cambiamento nel gennaio 2026 e la transizione è già ben avviata .

Il costo umano di questa automazione è già stato sentito. Nell'aprile 2026, Meta ha rescisso il contratto con Sama, la società di outsourcing keniota che impiegava centinaia di moderatori di contenuti a Nairobi. Sama ha successivamente licenziato 1.108 dipendenti . Un'altra società di outsourcing keniota ha anche licenziato improvvisamente dozzine di lavoratori della moderazione dei contenuti poco dopo che avevano tentato di organizzarsi per ottenere migliori retribuzioni e tutele per la salute mentale. I dipendenti dicono di essere stati presi di mira per aver sostenuto la sindacalizzazione e per aver sollevato preoccupazioni sulle condizioni di lavoro traumatiche . La sola risoluzione del contratto di Meta con Sama ha cancellato oltre 1.100 posti di lavoro in Kenya, con i preavvisi di licenziamento emessi ai sensi del Kenya's Employment Act .

Il contrasto centrale: Un palese doppio standard

Le prove delineano una contraddizione netta. I dati interni di Meta mostrano che la sua IA fallisce ancora nella stragrande maggioranza dei casi nel proteggere i bambini, eppure l'azienda sta contemporaneamente eliminando la forza lavoro umana che ha colto quei fallimenti, mentre impiega appaltatori per dimostrare che l'IA dei suoi concorrenti è ancora peggiore.

Area	Prove
Risultati dei test interni	I chatbot di Meta hanno fallito ~70% delle volte nel proteggere i minori dallo sfruttamento sessuale
Test sui concorrenti	Meta ha speso ingenti risorse per sondare i chatbot rivali per lo stesso tipo di fallimenti
Spinta all'automazione	Meta sta sostituendo i moderatori umani con l'IA, sostenendo che l'IA può gestire la moderazione dei contenuti su larga scala
Costo umano	Oltre 1.100 lavoratori kenioti sono stati licenziati dopo la risoluzione dei contratti — alcuni dopo aver denunciato condizioni di lavoro precarie — anche se l'IA che dovrebbe sostituirli non ha dimostrato una sicurezza adeguata per i bambini

Questo doppio standard solleva serie domande sulle priorità di Meta. L'azienda è disposta a investire pesantemente per dimostrare che i chatbot dei suoi concorrenti non sono sicuri per i minori, anche mentre i suoi stessi test interni rivelano che la sua IA ha un tasso di fallimento del 70% nella protezione dei bambini — e le salvaguardie umane che hanno colto quei fallimenti vengono licenziate, sostituite dalla stessa tecnologia che non ha ancora dimostrato di essere sicura.