Investigaciones revelan fallos reiterados de X y Grok para proteger a menores

Las pruebas recopiladas por periodistas, organizaciones de protección infantil, reguladores y documentos judiciales apuntan a un problema persistente de seguridad en X y en su empresa afiliada de inteligencia artificial, xAI. Grok pudo utilizarse para crear imágenes sexualizadas de menores, mientras que X tampoco evitó en todos los casos la subida de material de abuso sexual infantil previamente identificado.

Esto no demuestra todas las acusaciones formuladas contra xAI, en particular las relativas a sus datos de entrenamiento. Pero sí muestra que los controles anunciados no impidieron el daño de manera consistente.

Dos fallos distintos: generación y distribución

Una revisión del Canadian Centre for Child Protection, de la que informó The New York Times, concluyó que Grok generó, a comienzos de 2026 y a petición de usuarios, decenas de imágenes sexualizadas y, en algunos casos, sexualmente explícitas de menores. Entre ellos había víctimas de abuso ya identificadas previamente por las fuerzas de seguridad. Por separado, el Times halló que durante la primera mitad de 2026 usuarios subieron a X material de abuso sexual infantil que ya había sido identificado por las autoridades. 36

Son dos problemas diferentes y graves: por una parte, un sistema de IA que produce nuevas imágenes dañinas; por otra, una plataforma social que permite la circulación de material ilegal conocido.

La evidencia sobre menores no era hipotética

Reuters identificó varios casos en los que Grok generó imágenes sexualizadas de niños. 39 La Internet Watch Foundation (IWF) afirmó que sus analistas localizaron imágenes delictivas de niñas de entre 11 y 13 años que parecían haber sido creadas con Grok. El hallazgo se produjo en un foro de la web oscura donde los usuarios aseguraban haber utilizado la herramienta. 41

También hubo advertencias regulatorias. Correspondencia de la autoridad australiana eSafety, revelada por The Guardian, describió el material de abuso infantil en X como «particularmente sistémico» y más accesible allí que en cualquier otro servicio generalista examinado por el regulador. Es una valoración de esa autoridad, no una resolución judicial, pero ilustra la dimensión de la preocupación por la moderación de la plataforma. 50

Millones de imágenes sexualizadas y controles insuficientes

Los problemas con los filtros de generación de imágenes de Grok ya habían sido señalados antes. Un análisis de The New York Times y estimaciones del Center for Countering Digital Hate calcularon que Grok creó públicamente al menos 1,8 millones de imágenes sexualizadas de mujeres en un breve periodo iniciado a finales de diciembre de 2025. 40

Una posterior demanda colectiva estimó más de 3 millones de imágenes sexualizadas en 11 días, entre ellas más de 23.000 que aparentemente representaban a menores. Esa cifra figura como alegación judicial, por lo que no debe considerarse un hecho establecido por un tribunal. 43

Tras las críticas y la presión de reguladores, xAI restringió la edición de imágenes de personas reales con ropa reveladora. Reuters informó de que Elon Musk dijo no tener conocimiento de que Grok estuviera generando imágenes de menores desnudos cuando se anunciaron esas restricciones. 49

Sin embargo, una prueba posterior de Reuters concluyó que Grok todavía podía generar imágenes sexualizadas en determinadas circunstancias, incluso cuando los usuarios indicaban expresamente que la persona representada no había dado su consentimiento o podía ser humillada. 38

La conclusión práctica no es que no existieran medidas de seguridad, sino que no funcionaron de forma fiable en el uso real. Los controles posteriores tampoco eliminan las pruebas de resultados anteriores, y los informes sobre fallos continuados dificultan sostener que el problema hubiera quedado resuelto.

Qué alegan las demandas y qué sigue sin probarse

Varias demandas han acusado a xAI de facilitar la creación y distribución de imágenes sexualmente explícitas generadas por IA que afectan a menores. En marzo, tres adolescentes demandaron a xAI y alegaron que un usuario de Grok alteró sus fotos para convertirlas en imágenes de desnudos o de contenido abiertamente sexual sin su conocimiento. 17

Otra propuesta de demanda colectiva, presentada por una superviviente de abuso sexual infantil, formula una acusación aún más seria: que xAI entrenó a Grok con imágenes reales de su abuso y que el sistema generó nuevas imágenes abusivas que la representaban. 18 La demanda sostiene que la empresa no filtró adecuadamente ese material de sus datos de entrenamiento, no bloqueó resultados explícitos y no evitó deepfakes sexuales no consentidos.

Estas son alegaciones, no hechos demostrados. Ninguna resolución judicial citada aquí concluye que xAI entrenara deliberadamente a Grok con material de abuso sexual infantil. La diferencia es esencial: los fallos documentados de generación y moderación constituyen un conjunto de hallazgos; la cuestión de los datos de entrenamiento sigue pendiente de litigio.

Las acciones de xAI contra usuarios no borran el historial

xAI también ha emprendido acciones civiles contra un usuario al que acusa de utilizar Grok para crear material de abuso sexual infantil. Según la demanda de la empresa, el usuario subió imágenes no sexuales de adultos y menores e intentó convertirlas en deepfakes explícitos. 25

Estas actuaciones indican que la compañía ha perseguido presuntos usos indebidos. Pero actuar después de los hechos no equivale a prevenirlos. Las investigaciones resumidas documentaron que podían generarse resultados dañinos, que se localizaron presuntas imágenes delictivas y que material de abuso ya identificado llegó a X. 363941

El caso de Katie Miller: una cuestión separada de transparencia

La controversia sobre la comentarista Katie Miller no demuestra por sí misma fallos técnicos en X o Grok. Se trata de una cuestión de transparencia y rendición de cuentas en el debate público sobre la seguridad de la IA.

Según información basada en un análisis de The Washington Post, Miller poseía alrededor de 1 millón de dólares en acciones de xAI después de empezar a trabajar como consultora para la empresa. Durante unos nueve meses publicó cerca de 500 mensajes críticos con chatbots rivales y más de 160 favorables a Grok. 11

Estos datos plantean dudas sobre la divulgación de sus intereses financieros y la credibilidad de su defensa pública de Grok. Por sí solos, no prueban una infracción legal ni demuestran nada sobre el funcionamiento técnico de los sistemas de xAI.

La conclusión

La conclusión más clara de los informes disponibles es acotada, pero seria: las salvaguardas de X y xAI fallaron repetidamente a la hora de impedir la generación de imágenes sexualizadas de menores y la circulación en X de material de abuso sexual infantil ya identificado. 3639

La cuestión aún sin resolver es si esos fallos se limitaron a los controles de producto y a la moderación, o si también afectaron a los datos de entrenamiento de la empresa. La demanda de la superviviente plantea directamente esta última acusación, pero sigue sin demostrarse. 18