La crisis de moderación con IA de Meta: bloqueos erróneos destruyen cuentas legítimas y dejan a los usuarios sin apelación

La respuesta de Meta: admite errores, defiende la IA

Tras la investigación del NYT, Meta reconoció errores en algunos casos y restauró ciertas cuentas bloqueadas. Sin embargo, la empresa ha argumentado que sus nuevas herramientas de moderación con IA cometen menos errores que los moderadores humanos, afirmando una reducción del 13% en errores y un aumento del 10% en la detección de infracciones .

Esta postura es parte de un cambio estratégico más amplio de Meta. La empresa confirmó en enero de 2025 que los sistemas automatizados asumirían la responsabilidad principal de identificar y eliminar contenido que infringe las políticas en Facebook, Instagram y WhatsApp . A mediados de 2026, se habían eliminado miles de puestos de moderación externalizados como parte de esta transición .

Lo que dijo el Oversight Board de Meta

El Oversight Board independiente de Meta se pronunció sobre el problema general de la desactivación de cuentas en junio de 2026, y sus conclusiones fueron contundentes:

• El 4 de junio de 2026, el Board declaró que el proceso de desactivación de cuentas de Meta carece de debido proceso, que las infracciones se comunican sin claridad y que el servicio de atención al cliente para apelaciones es casi inexistente .
• El Board anunció que revisaría, por primera vez, el enfoque general de Meta para desactivar cuentas de forma permanente .
• En una resolución separada del 24 de junio de 2026 sobre un caso de amenazas de muerte, el Board confirmó la sanción específica pero volvió a criticar la opacidad de las políticas de Meta .

Las conclusiones del Board se hacen eco directamente de las quejas de usuarios como Hanson: el sistema no proporciona una vía significativa para impugnar una decisión generada por IA.

La conexión laboral: menos humanos, más errores de IA

Las eliminaciones incorrectas no son un fallo aislado del sistema. Son una consecuencia predecible de la estrategia laboral de Meta:

• Abril de 2026: Meta anunció que recortaría el 10% de su plantilla (unos 8.000 empleados) y eliminaría 6.000 puestos vacantes, con el objetivo explícito de redirigir recursos hacia el desarrollo de IA .
• Mayo de 2026: Comenzaron los despidos, y los trabajadores restantes fueron reasignados a roles centrados en la IA .
• Octubre de 2025: Los recortes anteriores ya habían incluido a más de 100 empleados del equipo de revisión de riesgos de Meta, precisamente los equipos responsables de supervisar la seguridad y privacidad de los usuarios .
• Junio de 2026: Informes confirmaron que Meta ya había comenzado a reemplazar a los moderadores de contenido humanos con sistemas de IA, eliminando miles de puestos de trabajo de moderación externalizados .

Los moderadores humanos y revisores de riesgos despedidos eran exactamente la fuerza laboral necesaria para manejar el tipo de revisión matizada en la que los sistemas de IA fallan sistemáticamente. Los mismos sistemas de IA que Meta está ampliando están produciendo errores masivos y no corregidos, marcando y eliminando cuentas legítimas con escasas vías de apelación funcionales.

En resumen

La investigación del NYT, combinada con las conclusiones del Oversight Board y los recortes de personal documentados, dibuja un panorama claro: el sistema de moderación impulsado por IA de Meta está generando falsos positivos generalizados, el proceso de apelación es funcionalmente nulo, y la empresa ha despedido a las mismas personas que podrían haberlo solucionado, todo mientras la empresa defiende la tecnología argumentando que comete menos errores que los humanos a los que reemplazó.