La IA generativa se vuelve más difícil de rastrear a medida que crece

Un estudio de investigadores del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT (MIT CSAIL) señala un problema que se vuelve más evidente a medida que escalan los generadores de imágenes por difusión: puede ser cada vez más difícil demostrar que una imagen concreta del conjunto de entrenamiento causó una imagen concreta generada por el modelo. Los autores, Zheng Dai y David Gifford, llaman a este fenómeno decadencia de la atribución (attribution decay).

El resultado es relevante para los debates sobre arte generado por IA y derechos de autor, pero debe interpretarse con precisión. El estudio analiza la atribución causal entre datos de entrenamiento y resultados específicos de modelos de difusión. No determina si las empresas podían recopilar obras protegidas, si una imagen generada es sustancialmente similar a una obra protegida ni si un modelo puede memorizar y reproducir material de sus datos.

Qué significa la «decadencia de la atribución»

La idea central es sencilla: cuanto más grande es el conjunto de imágenes con el que se entrena un modelo de difusión, menor tiende a ser la influencia medible de cualquier imagen individual sobre un resultado concreto. Cuando el sistema alcanza suficiente escala, retirar esa imagen puede no producir ningún cambio apreciable en la imagen generada.

Los investigadores también probaron eliminaciones más amplias: todas las obras de un artista y todas las fotografías de una persona determinada. Los resultados indican que, cuando el modelo y el conjunto de datos son suficientemente grandes, retirar esos grupos también puede generar cambios mínimos o inexistentes en los resultados. Los experimentos abarcaron 24 conjuntos de modelos de difusión y bases de datos de entre 256 y más de 160.000 imágenes.

Esto no significa que una imagen no haya desempeñado ningún papel en el entrenamiento general del modelo. Significa que, para un resultado concreto y bajo la prueba de eliminación utilizada, su contribución causal individual puede ser demasiado pequeña para detectarla.

Cómo funcionó el «ensamble de difusión»

Comprobar esta cuestión directamente resulta difícil. El método convencional consistiría en volver a entrenar un modelo después de retirar una imagen de origen y comparar el nuevo resultado con el original. Repetir el proceso para imágenes individuales, artistas o personas sería costoso; además, los métodos aproximados podrían no eliminar todos los efectos posteriores de esos datos.

Dai y Gifford diseñaron en su lugar un ensamble de difusión: varios componentes de difusión más pequeños, entrenados con subconjuntos de datos diferentes pero parcialmente superpuestos. Para medir la influencia de una fuente, podían desactivar los componentes que habían visto esa imagen y generar así el resultado contrafactual —lo que el sistema produciría sin ella— sin volver a entrenar el modelo completo.

El equipo comparó este método con 24 modelos de difusión convencionales entrenados con los mismos datos y comunicó una calidad de salida ampliamente comparable según métricas estándar.

Dentro de esta arquitectura, la prueba permitía una eliminación exacta: si el resultado no cambiaba después de apagar todos los componentes que habían estado expuestos a una fuente, el experimento no ofrecía evidencia medible de que esa fuente hubiera causado el resultado.

Qué puede cambiar en los litigios por derechos de autor

La decadencia de la atribución podría complicar un tipo específico de reclamación: la tesis de que una imagen generada concreta fue causada por, o copiada de, la obra de un demandante o del conjunto completo de su producción artística. Si retirar ese material no modifica el resultado en una prueba contrafactual exacta, la prueba aporta poco respaldo para atribuirle ese resultado a la fuente eliminada.

Ese problema podría aparecer en disputas relacionadas con servicios de generación de imágenes o desarrolladores de modelos, incluidas empresas como Midjourney, OpenAI y Microsoft. Sin embargo, el estudio no determina la responsabilidad jurídica de ninguna compañía. Aporta evidencia sobre la dificultad de establecer vínculos causales entre datos de entrenamiento individuales y resultados individuales.

Siguen abiertas varias preguntas distintas:

• ¿Cómo se obtuvieron los datos de entrenamiento? El estudio no establece si recopilar o utilizar una obra protegida para entrenar un modelo fue legal.
• ¿Existe una similitud sustancial con una obra protegida? La similitud visual puede ser relevante aunque resulte difícil atribuir causalmente el resultado a un solo archivo.
• ¿El sistema memorizó o reprodujo un ejemplo? En determinadas circunstancias, un modelo puede reproducir material de entrenamiento. Eso no equivale a demostrar que cada resultado sea atribuible a una única fuente.
• ¿El sistema fue configurado para imitar a un artista? Las instrucciones dirigidas, el ajuste especializado del modelo u otros comportamientos pueden aportar indicios que una prueba de eliminación de una sola imagen no capture.

En la práctica, los tribunales y los investigadores podrían necesitar un expediente probatorio más amplio: registros sobre la obtención de datos, información de procedencia, análisis directo de similitud, pruebas con instrucciones dirigidas, evidencia del comportamiento del modelo y peritajes. Esta conclusión se desprende de la dificultad demostrada para asignar la causa de un resultado a una fuente individual cuando el sistema opera a gran escala; no es una norma jurídica creada por el estudio.

Por qué el hallazgo no es un cheque en blanco para la IA

La decadencia de la atribución no demuestra que los modelos de difusión nunca copien. El estudio concluye que la influencia medible de una fuente individual puede volverse insignificante cuando crece el conjunto de entrenamiento. En determinados contextos, los modelos todavía pueden memorizar o reproducir ejemplos presentes en sus datos.

El alcance de la investigación también es limitado: examinó generadores de imágenes basados en difusión, por lo que sus resultados no deben extrapolarse automáticamente a los modelos de lenguaje ni a otras arquitecturas generativas.

La lectura más precisa es, por tanto, prudente: los grandes sistemas de difusión pueden hacer más difícil atribuir un resultado a una imagen concreta o a la obra de un artista, incluso cuando ese material formó parte del entrenamiento. Esto puede debilitar una vía para demostrar la responsabilidad por una imagen específica, pero deja sin resolver las preguntas más amplias sobre las prácticas de entrenamiento, la copia, la imitación y los derechos de propiedad intelectual.