Meta publicó anuncios pagados con imágenes de abuso sexual infantil generadas por IA: India exige respuestas

El Tech Transparency Project (TTP) identificó de forma independiente más de 50 de estos anuncios de imagen y video dentro de la propia Biblioteca de Anuncios pública de Meta, publicados entre noviembre de 2025 y agosto de 2026. Varios de los anuncios enlazaban a las llamadas apps "nudify", que generan imágenes sexualizadas no consentidas . En conjunto, los anuncios llegaron a miles de cuentas en Estados Unidos, Reino Unido y más de una docena de países europeos .

Cómo fallaron los propios sistemas de Meta

Las normas publicitarias de Meta prohíben explícitamente los anuncios que contengan CSAM o promuevan apps nudify . Sin embargo, los anuncios se descubrieron utilizando las propias herramientas de transparencia de Meta. Los investigadores de TTP descubrieron que algunos anuncios estaban vinculados a GatherOne Inc., con sede en Pekín, un socio publicitario autorizado de Meta, que había colocado aproximadamente 7,600 anuncios de apps nudify con IA en Facebook e Instagram . TTP identificó 210 páginas de Facebook vinculadas a GatherOne, de las cuales 85 aún estaban activas en el momento del informe .

Posteriormente, Meta declaró que la mayoría de los anuncios habían tenido un alcance mínimo y fueron desactivados tras la revisión, atribuyendo el fallo a sistemas de detección anteriores a sus herramientas de moderación de IA más recientes .

La rápida respuesta regulatoria de India

El gobierno indio reaccionó con contundencia ante las revelaciones. Tras una investigación separada de BBC Eye que encontró que Instagram estaba publicando anuncios pagados que promovían explícitamente CSAM — utilizando términos de búsqueda como "video de violación" y "video infantil" que enlazaban a canales de Telegram — el Ministerio de Electrónica y Tecnología de la Información de la India (MeitY) tomó varias medidas:

• El Ministro de TI, Ashwini Vaishnaw, ordenó a MeitY citar a Meta para una explicación formal .
• MeitY emitió un aviso formal ordenando a Meta deshabilitar inmediatamente todos los anuncios y contenidos en Instagram que promuevan o faciliten el acceso a Material de Explotación y Abuso Sexual Infantil (CSEAM) .
• Se le dio a Meta un plazo de siete días para proporcionar una explicación detallada o enfrentar acciones legales, incluyendo posibles sanciones bajo la Ley de TI de la India y la Ley POCSO .
• El gobierno exigió específicamente que Meta explicara cómo su sistema de revisión de anuncios había aprobado dicho contenido para su distribución paga .

La prohibición con visión de futuro de la Unión Europea

La respuesta regulatoria de la UE fue estructural y legislativa, y no una acción de cumplimiento específica contra Meta por estos anuncios. La Ley de IA de la UE ahora incluye una nueva disposición que prohibirá la generación de CSAM a partir del 2 de diciembre de 2026 . Esto apunta directamente al material de abuso generado por IA como el del informe de WIRED.

La Ley de IA también impone obligaciones a los implementadores y proveedores de herramientas de IA para garantizar la seguridad y la transparencia, y exige que el contenido generado por IA sea identificable . Por separado, la Comisión Europea ya había multado a Meta con 200 millones de euros en abril de 2025 por incumplimiento de la Ley de Mercados Digitales en relación con su modelo publicitario "Consentir o Pagar", aunque esa acción no estaba directamente relacionada con CSAM .

Lo que esto significa

Las dos investigaciones revelan una falla sistémica en la infraestructura de revisión de anuncios de Meta. A pesar de las políticas claras, el CSAM generado por IA se filtró durante meses en múltiples plataformas. La rápida respuesta de la India — un ultimátum de 7 días — señala una creciente impaciencia entre los gobiernos con la autorregulación de las plataformas. La prohibición de la UE, por su parte, establece un precedente global al ilegalizar la generación de CSAM en sí misma, no solo su distribución.