El estudio del MIT que pone en duda el origen rastreable de las imágenes generadas por IA

En total, analizaron 24 conjuntos de modelos entrenados con siete colecciones públicas de imágenes, que iban desde 256 ejemplos hasta más de 160.000. Para cada resultado generado, produjeron un “universo contrafactual”: versiones correspondientes a la eliminación de cada unidad candidata del entrenamiento. La mayor diferencia entre la imagen original y esas versiones se definió como el radio contrafactual, una medida del efecto causal máximo de una unidad omitida.

Qué reveló la “decadencia de la atribución”

El radio contrafactual disminuía a medida que aumentaba el tamaño de los conjuntos de datos. Es decir, retirar una sola imagen producía cada vez menos cambios apreciables en el resultado generado.

El efecto podía extenderse más allá de una imagen individual. Cuando el entrenamiento alcanzaba escalas suficientemente grandes, eliminar todas las imágenes de un artista o todas las fotografías que mostraban a una persona concreta tampoco alteraba de forma apreciable una muestra generada.

En los términos de la prueba, eso implica que no se puede asignar responsabilidad causal a esa unidad —o a esa categoría de imágenes— por ese resultado específico si su eliminación no cambia el resultado.

Qué significa para el copyright

El hallazgo podría dificultar una teoría concreta de infracción en ciertos litigios contra empresas de generación de imágenes, como Midjourney, OpenAI o Microsoft: aquella que sostiene que una imagen determinada fue causada directamente por las obras de un artista específico o por copias de su estilo.

Si retirar todo el corpus de un artista no modifica de manera efectiva el resultado, el demandante podría tener problemas para demostrar una contribución causal directa y específica de esas obras a esa imagen generada.

Pero el estudio no decide ningún caso ni establece una regla jurídica. Las disputas por copyright pueden centrarse en cuestiones diferentes, como la copia no autorizada durante el entrenamiento, la similitud sustancial entre una imagen generada y una obra protegida, el acceso a los materiales, el perjuicio al mercado, las condiciones contractuales u otros elementos legales.

Los límites del resultado

No demuestra que no exista memorización

Una imagen puede no ser atribuible a una sola unidad bajo esta prueba de eliminación y, aun así, el modelo puede haber memorizado material, reproducirlo con determinados prompts o condiciones de muestreo, o generar un resultado sustancialmente similar a una obra protegida. El estudio mide la sensibilidad causal a la eliminación de unidades; no examina todas las formas posibles de memorización o infracción.

No es un resultado sobre modelos de lenguaje

La investigación se ocupa de modelos de difusión para generar imágenes. Su técnica de conjuntos y ablaciones, así como el resultado empírico sobre el escalado, no se han demostrado por ello en modelos de lenguaje grandes basados en transformadores.

No sustituye a otras pruebas

Los tribunales y los investigadores técnicos seguirían necesitando pruebas de reproducción mediante prompts, análisis de similitud y procedencia, registros de los datos de entrenamiento y del sistema, auditorías de modelos y un análisis jurídico aplicable.

La “decadencia de la atribución” sugiere que una explicación causal basada en una única fuente puede dejar de funcionar cuando el modelo se entrena con grandes volúmenes de datos. No demuestra que la copia no pueda probarse mediante otras evidencias.