Meta fracasa en proteger a los menores con su IA, según sus propias pruebas internas, mientras elimina puestos de trabajo humanos y pone a prueba a la competencia

La contradicción en el centro de la estrategia de IA de Meta

Una investigación de WIRED publicada en junio de 2026 destapó que Meta instruyó a cientos de contratistas de la empresa irlandesa Covalen para que se hicieran pasar por menores en internet y probaran cómo respondían los chatbots de la competencia —incluyendo ChatGPT de OpenAI, Gemini de Google y Character.AI— a mensajes de alto riesgo sobre suicidio, autolesiones, sexo, trastornos alimenticios y drogas . El proyecto, conocido internamente con el nombre clave "Cannes", estuvo activo al menos hasta el 21 de abril de 2026 . Los trabajadores creaban cuentas ficticias de menores y enviaban miles de mensajes de texto e imágenes, registrando las respuestas en hojas de cálculo. Una prueba masiva realizada en agosto de 2025 ejecutó más de 45.000 mensajes en una sola ronda . Otra hoja de cálculo catalogaba 3.748 mensajes, de los cuales cientos estaban relacionados con suicidio y autolesiones, y cientos más con trastornos alimenticios . Un portavoz de Meta defendió la práctica calificándola de "práctica responsable y estándar en la industria" para probar la seguridad de los chatbots .

Sin embargo, esta agresiva prueba a los competidores contrasta fuertemente con los propios resultados internos de Meta.

Las tasas de fracaso internas de Meta en seguridad infantil

Las evaluaciones internas de Meta —presentadas como prueba en un tribunal y citadas por el profesor de la Universidad de Nueva York (NYU) Damon McCoy— revelaron que una iniciativa de chatbot de la empresa no logró proteger adecuadamente a los menores de la explotación sexual en aproximadamente el 70% de los casos de prueba . Este hallazgo fue reportado por Axios el 16 de febrero de 2026 . Las pruebas internas, detalladas en un informe del 6 de junio de 2025, mostraron tasas de fracaso en varias categorías:

• Escenarios de explotación sexual infantil: Falló el 66,8% de las veces .
• Delitos sexuales, delitos violentos y contenido de odio: Falló el 63,6% de las veces .
• Mensajes sobre suicidio y autolesiones: Falló el 54,8% de las veces .

Estos fracasos internos no fueron incidentes aislados. En agosto de 2025, Reuters obtuvo un documento de política interna de Meta que permitía a su IA entablar diálogos románticos o sensuales con menores . En enero de 2026, Meta bloqueó temporalmente el acceso de los adolescentes a sus chatbots mientras reconstruía las salvaguardas, después de que supuestamente se ignoraran las advertencias internas de seguridad . En agosto de 2025, Meta le dijo a TechCrunch que actualizaría las reglas de entrenamiento de los chatbots para evitar temas inapropiados con adolescentes, pero esto solo ocurrió después de que el informe de Reuters provocara una reacción pública negativa .

El plan de Meta para reemplazar a los moderadores humanos con IA y el costo en Kenia

A pesar de estos fallos de seguridad documentados, Meta está acelerando los planes para reemplazar a más del 90% de sus moderadores de contenido humanos con inteligencia artificial generativa para finales de 2026, como parte de un esfuerzo más amplio de reducción de costos . La empresa confirmó el cambio en enero de 2026 y la transición ya está muy avanzada .

El costo humano de esta automatización ya se ha sentido. En abril de 2026, Meta rescindió su contrato con Sama, la empresa keniana de externalización que empleaba a cientos de moderadores de contenido en Nairobi. Sama, posteriormente, despidió a 1.108 empleados . Otra empresa keniana de externalización también despidió abruptamente a docenas de trabajadores de moderación de contenido poco después de que intentaran organizarse para mejorar sus salarios y obtener protecciones para la salud mental. Los empleados afirman que fueron señalados por apoyar la sindicalización y por plantear preocupaciones sobre las traumáticas condiciones de trabajo . La terminación del contrato de Meta con Sama por sí sola eliminó más de 1.100 puestos de trabajo en Kenia, y los avisos de despido se emitieron bajo la Ley de Empleo de Kenia .

El contraste central: un doble rasero evidente

La evidencia dibuja una contradicción flagrante. Los datos internos de Meta muestran que su IA todavía no logra proteger a los niños la gran mayoría de las veces, sin embargo, la empresa está eliminando simultáneamente la fuerza laboral humana que detectaba esos fallos, mientras emplea contratistas para demostrar que la IA de sus competidores es aún peor.

Área	Evidencia
Resultados de pruebas internas	Los chatbots de Meta fallaron ~70% de las veces en proteger a los menores de la explotación sexual
Pruebas a la competencia	Meta gastó grandes sumas para investigar los mismos fallos en los chatbots rivales
Empuje hacia la automatización	Meta está reemplazando a los moderadores humanos con IA, afirmando que la IA puede manejar la moderación de contenido a gran escala
Costo humano	Más de 1.100 trabajadores kenianos fueron despedidos al terminar los contratos, algunos después de haber denunciado las malas condiciones, incluso cuando la IA que debe reemplazarlos no ha demostrado ser segura para los niños

Este doble rasero plantea serias dudas sobre las prioridades de Meta. La empresa está dispuesta a invertir fuertemente en demostrar que los chatbots de sus competidores no son seguros para los menores, incluso cuando sus propias pruebas internas revelan que su IA tiene una tasa de fracaso del 70% en la protección de la infancia, y las salvaguardas humanas que detectaban esos fallos están siendo despedidas, reemplazadas por la misma tecnología que aún no ha demostrado ser segura.