Meta fracasa en proteger a los menores con su IA, según sus propias pruebas internas, mientras elimina puestos de trabajo humanos y pone a prueba a la competencia

Sin embargo, esta agresiva prueba a los competidores contrasta fuertemente con los propios resultados internos de Meta.

Las tasas de fracaso internas de Meta en seguridad infantil

Las evaluaciones internas de Meta —presentadas como prueba en un tribunal y citadas por el profesor de la Universidad de Nueva York (NYU) Damon McCoy— revelaron que una iniciativa de chatbot de la empresa no logró proteger adecuadamente a los menores de la explotación sexual en aproximadamente el 70% de los casos de prueba . Este hallazgo fue reportado por Axios el 16 de febrero de 2026 . Las pruebas internas, detalladas en un informe del 6 de junio de 2025, mostraron tasas de fracaso en varias categorías:

• Escenarios de explotación sexual infantil: Falló el 66,8% de las veces .
• Delitos sexuales, delitos violentos y contenido de odio: Falló el 63,6% de las veces .
• Mensajes sobre suicidio y autolesiones: Falló el 54,8% de las veces .

Estos fracasos internos no fueron incidentes aislados. En agosto de 2025, Reuters obtuvo un documento de política interna de Meta que permitía a su IA entablar diálogos románticos o sensuales con menores . En enero de 2026, Meta bloqueó temporalmente el acceso de los adolescentes a sus chatbots mientras reconstruía las salvaguardas, después de que supuestamente se ignoraran las advertencias internas de seguridad . En agosto de 2025, Meta le dijo a TechCrunch que actualizaría las reglas de entrenamiento de los chatbots para evitar temas inapropiados con adolescentes, pero esto solo ocurrió después de que el informe de Reuters provocara una reacción pública negativa .

El plan de Meta para reemplazar a los moderadores humanos con IA y el costo en Kenia

A pesar de estos fallos de seguridad documentados, Meta está acelerando los planes para reemplazar a más del 90% de sus moderadores de contenido humanos con inteligencia artificial generativa para finales de 2026, como parte de un esfuerzo más amplio de reducción de costos . La empresa confirmó el cambio en enero de 2026 y la transición ya está muy avanzada .

El costo humano de esta automatización ya se ha sentido. En abril de 2026, Meta rescindió su contrato con Sama, la empresa keniana de externalización que empleaba a cientos de moderadores de contenido en Nairobi. Sama, posteriormente, despidió a 1.108 empleados . Otra empresa keniana de externalización también despidió abruptamente a docenas de trabajadores de moderación de contenido poco después de que intentaran organizarse para mejorar sus salarios y obtener protecciones para la salud mental. Los empleados afirman que fueron señalados por apoyar la sindicalización y por plantear preocupaciones sobre las traumáticas condiciones de trabajo . La terminación del contrato de Meta con Sama por sí sola eliminó más de 1.100 puestos de trabajo en Kenia, y los avisos de despido se emitieron bajo la Ley de Empleo de Kenia .

El contraste central: un doble rasero evidente

La evidencia dibuja una contradicción flagrante. Los datos internos de Meta muestran que su IA todavía no logra proteger a los niños la gran mayoría de las veces, sin embargo, la empresa está eliminando simultáneamente la fuerza laboral humana que detectaba esos fallos, mientras emplea contratistas para demostrar que la IA de sus competidores es aún peor.

Este doble rasero plantea serias dudas sobre las prioridades de Meta. La empresa está dispuesta a invertir fuertemente en demostrar que los chatbots de sus competidores no son seguros para los menores, incluso cuando sus propias pruebas internas revelan que su IA tiene una tasa de fracaso del 70% en la protección de la infancia, y las salvaguardas humanas que detectaban esos fallos están siendo despedidas, reemplazadas por la misma tecnología que aún no ha demostrado ser segura.