TTP: Meta distribuyó 332 anuncios con presunto material de abuso sexual infantil generado con IA

La organización Tech Transparency Project (TTP) afirmó en un informe publicado el 8 de septiembre que Meta distribuyó 332 anuncios pagados en Facebook e Instagram que contenían presunto material de abuso sexual infantil (MASI) generado o manipulado con inteligencia artificial. Según TTP, los anuncios estuvieron activos entre noviembre de 2025 y agosto de 2026 y alcanzaron a más de 29.000 usuarios. El grupo advirtió, no obstante, que los datos públicos de la Biblioteca de anuncios de Meta no permiten medir por completo la distribución, especialmente fuera de las regiones con información disponible. 69

Qué detectó la investigación

TTP señaló que los anuncios usaban imágenes generadas o alteradas con IA para sexualizar a menores y que con frecuencia promocionaban aplicaciones de tipo «nudify» —herramientas que convierten imágenes en contenido sexualizado sin consentimiento— o servicios de deepfakes. Algunas imágenes parecían partir de fotografías de niños reales, entre ellas la de un integrante menor de edad de una familia real europea. 910

Los anuncios aparecieron en la Unión Europea y Reino Unido, Estados Unidos, India y Australia. TTP identificó 84 anuncios en India y 120 dirigidos a usuarios australianos; la mayoría, según los reportes, se difundió en la UE y Reino Unido. 112

La entidad vinculó numerosos anuncios con desarrolladores de aplicaciones de IA y con la red de revendedores publicitarios de Meta en China. Su informe mencionó a GIMC y BlueFocus, mientras que otras coberturas describieron que muchos anuncios promocionaban apps de «nudify». 96

El problema: eran anuncios pagados

El aspecto central del caso es que no se trata solo de contenido nocivo publicado por usuarios. Eran anuncios de pago que, de acuerdo con los hallazgos de TTP, pasaron por los procesos de recepción y revisión publicitaria de Meta antes de distribuirse a usuarios.

TTP sostuvo que esto evidencia fallos tanto en la revisión de las piezas publicitarias como en la supervisión de los anunciantes. Añadió que gran parte del material era explícito, no contenido camuflado tras mensajes ambiguos o señales visuales difíciles de detectar.

La organización indicó además que Meta clasificó inicialmente 113 anuncios retirados como infracciones relacionadas con contenido sexual para adultos u otras categorías generales. Después de que TTP planteara el problema, las notificaciones pasaron a identificar explotación infantil. 9

La diferencia no es menor: si los anuncios prohibidos no se clasifican de manera consistente como contenido de explotación infantil, los datos públicos sobre retiradas pueden no reflejar con claridad la escala o la naturaleza del problema. 9

La respuesta de Meta y las retiradas

Andy Stone, portavoz de Meta, declaró que la empresa prohíbe las aplicaciones de «nudify» y toda explotación infantil, «ya sea real o generada por IA». Añadió que quienes intentan eludir las normas cambian continuamente de tácticas y que la compañía debe seguir mejorando su detección y aplicación de las reglas. 3

Meta también sostuvo que muchos de los anuncios tuvieron un alcance limitado, que algunos ya habían sido desactivados antes de los reportes externos y que otros se publicaron antes de la implantación de nuevas herramientas destinadas a detectar y bloquear anuncios que incumplen las normas relacionadas con IA durante la carga. 11

Según TTP, Meta había retirado 183 de los 332 anuncios hasta el 1 de septiembre. Tras compartir sus conclusiones con la compañía el 2 de septiembre, Meta eliminó los 149 restantes y reclasificó otros 113 bajo normas de explotación infantil, de acuerdo con el grupo. 9

TTP afirmó, sin embargo, que anuncios similares siguieron apareciendo en los días posteriores, incluido uno relacionado con el menor de la familia real europea. Por ello, las retiradas resolvieron los casos identificados, pero no demostraron por sí solas que el problema de fondo en la revisión publicitaria hubiera quedado solucionado. 9

Más presión regulatoria y política

El informe se publicó en un contexto de creciente escrutinio sobre la seguridad de los jóvenes en las plataformas de Meta. TTP relacionó sus hallazgos con un posible acuerdo de 18.000 millones de dólares con fiscales generales estatales de Estados Unidos por acusaciones de que los productos de Meta perjudicaron a menores y adolescentes. 9

El senador estadounidense Mark Warner ya había pedido explicaciones a Meta sobre cómo anuncios de este tipo pudieron superar sus sistemas. También señaló que la Biblioteca de anuncios pública de Meta no ofrece a los usuarios un mecanismo para denunciar anuncios ofensivos. 17

En India, la Comisión Nacional de Derechos Humanos solicitó respuestas a ministerios y a la policía tras reportes de anuncios pagados en Instagram que presuntamente promocionaban o facilitaban el acceso a material de abuso sexual infantil. 2218

Cómo reportó TTP los anuncios

TTP indicó que denunció cada anuncio identificado ante el National Center for Missing & Exploited Children (NCMEC), incluido el uso de su CyberTipline. Esta vía permite que los indicios de explotación infantil en internet sean evaluados y, cuando corresponde, remitidos a las autoridades policiales. 93

La principal conclusión del informe es que la prevención del abuso mediante IA no puede limitarse a moderar contenido después de su publicación. En la publicidad de pago, los controles decisivos deben actuar antes: verificación de anunciantes, revisión de creatividades, detección automatizada, clasificación correcta de las infracciones y respuesta rápida ante los abusos detectados.