El estudio del MIT que pone en duda el origen rastreable de las imágenes generadas por IA
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi... Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con...
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi...
Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con precisión qué ocurriría si una imagen concreta no hubiera formado parte del entrenamiento.
Probaron 24 conjuntos de modelos con siete colecciones públicas de imágenes, cuyos tamaños iban de 256 a más de 160.000 imágenes.
A gran escala, eliminar incluso todas las imágenes de un artista o las fotografías de una persona podía no cambiar de forma apreciable una imagen generada.
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
Prompt de IA
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
El estudio de Zheng Dai y David Gifford, investigadores del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT, publicado en Nature Communications, describe un fenómeno que denominaron “decadencia de la atribución” (attribution decay).
La idea central es contraintuitiva: cuanto más grande es el conjunto de datos con el que se entrena un generador de imágenes por difusión, menor puede ser el efecto causal detectable de cualquier imagen individual sobre una imagen concreta generada. En cierto punto, retirar ese ejemplo del entrenamiento apenas modifica el resultado.
Esto no significa que la imagen nunca se haya usado, que el modelo no conserve información sobre ella o que no pueda reproducirla bajo otras condiciones. El hallazgo se refiere específicamente a si puede atribuirse causalmente un resultado a una unidad concreta del conjunto de entrenamiento.
Cómo pusieron a prueba la influencia de cada imagen
Para evitar las aproximaciones habituales, los investigadores construyeron una arquitectura de conjunto de modelos de difusión (diffusion ensemble). En lugar de entrenar un único modelo monolítico con todos los datos, entrenaron componentes independientes, cada uno expuesto a una parte controlada del conjunto de entrenamiento.
Ese diseño les permitió crear un contrafactual preciso: “¿qué habría ocurrido si esta imagen no hubiera estado presente?”. Para responderlo, desactivaban todos los componentes que habían visto la imagen en cuestión, sin tener que volver a entrenar desde cero un modelo completo.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
¿Cuál es la respuesta corta a "El estudio del MIT que pone en duda el origen rastreable de las imágenes generadas por IA"?
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi...
¿Cuáles son los puntos clave a validar primero?
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi... Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con precisión qué ocurriría si una imagen concreta no hubiera formado parte del entrenamiento.
¿Qué debo hacer a continuación en la práctica?
Probaron 24 conjuntos de modelos con siete colecciones públicas de imágenes, cuyos tamaños iban de 256 a más de 160.000 imágenes.
El estudio del MIT que pone en duda el origen rastreable de las imágenes generadas por IA
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi... Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con...
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi...
Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con precisión qué ocurriría si una imagen concreta no hubiera formado parte del entrenamiento.
Probaron 24 conjuntos de modelos con siete colecciones públicas de imágenes, cuyos tamaños iban de 256 a más de 160.000 imágenes.
A gran escala, eliminar incluso todas las imágenes de un artista o las fotografías de una persona podía no cambiar de forma apreciable una imagen generada.
What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusionAI-generated editorial hero image for What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion.
Prompt de IA
Create a landscape editorial hero image for this Studio Global article: What did Zheng Dai and David Gifford’s MIT CSAIL study, published in Nature Communications, discover about “attribution decay” in diffusion. Article summary: Dai and Gifford found “attribution decay”: as a diffusion image generator is trained on more data, the causal effect of any one training item on a particular generated image can shrink until it is too small to detect.. Topic tags: general web, ai safety, openai, chatgpt, llm. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wit
openai.com
El estudio de Zheng Dai y David Gifford, investigadores del Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT, publicado en Nature Communications, describe un fenómeno que denominaron “decadencia de la atribución” (attribution decay).
La idea central es contraintuitiva: cuanto más grande es el conjunto de datos con el que se entrena un generador de imágenes por difusión, menor puede ser el efecto causal detectable de cualquier imagen individual sobre una imagen concreta generada. En cierto punto, retirar ese ejemplo del entrenamiento apenas modifica el resultado.
Esto no significa que la imagen nunca se haya usado, que el modelo no conserve información sobre ella o que no pueda reproducirla bajo otras condiciones. El hallazgo se refiere específicamente a si puede atribuirse causalmente un resultado a una unidad concreta del conjunto de entrenamiento.
Cómo pusieron a prueba la influencia de cada imagen
Para evitar las aproximaciones habituales, los investigadores construyeron una arquitectura de conjunto de modelos de difusión (diffusion ensemble). En lugar de entrenar un único modelo monolítico con todos los datos, entrenaron componentes independientes, cada uno expuesto a una parte controlada del conjunto de entrenamiento.
Ese diseño les permitió crear un contrafactual preciso: “¿qué habría ocurrido si esta imagen no hubiera estado presente?”. Para responderlo, desactivaban todos los componentes que habían visto la imagen en cuestión, sin tener que volver a entrenar desde cero un modelo completo.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
¿Cuál es la respuesta corta a "El estudio del MIT que pone en duda el origen rastreable de las imágenes generadas por IA"?
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi...
¿Cuáles son los puntos clave a validar primero?
El estudio de Zheng Dai y David Gifford identificó la “decadencia de la atribución”: al entrenar un generador de imágenes con más datos, la influencia causal de una sola imagen sobre un resultado puede volverse demasi... Los investigadores crearon una arquitectura de conjunto de modelos de difusión para simular con precisión qué ocurriría si una imagen concreta no hubiera formado parte del entrenamiento.
¿Qué debo hacer a continuación en la práctica?
Probaron 24 conjuntos de modelos con siete colecciones públicas de imágenes, cuyos tamaños iban de 256 a más de 160.000 imágenes.
Después compararon el conjunto de modelos con 24 modelos de difusión convencionales entrenados con los mismos datos. Según el estudio, ambos enfoques obtuvieron medidas estándar de calidad de imagen aproximadamente comparables.
En total, analizaron 24 conjuntos de modelos entrenados con siete colecciones públicas de imágenes, que iban desde 256 ejemplos hasta más de 160.000. Para cada resultado generado, produjeron un “universo contrafactual”: versiones correspondientes a la eliminación de cada unidad candidata del entrenamiento. La mayor diferencia entre la imagen original y esas versiones se definió como el radio contrafactual, una medida del efecto causal máximo de una unidad omitida.
Qué reveló la “decadencia de la atribución”
El radio contrafactual disminuía a medida que aumentaba el tamaño de los conjuntos de datos. Es decir, retirar una sola imagen producía cada vez menos cambios apreciables en el resultado generado.
El efecto podía extenderse más allá de una imagen individual. Cuando el entrenamiento alcanzaba escalas suficientemente grandes, eliminar todas las imágenes de un artista o todas las fotografías que mostraban a una persona concreta tampoco alteraba de forma apreciable una muestra generada.
En los términos de la prueba, eso implica que no se puede asignar responsabilidad causal a esa unidad —o a esa categoría de imágenes— por ese resultado específico si su eliminación no cambia el resultado.
Qué significa para el copyright
El hallazgo podría dificultar una teoría concreta de infracción en ciertos litigios contra empresas de generación de imágenes, como Midjourney, OpenAI o Microsoft: aquella que sostiene que una imagen determinada fue causada directamente por las obras de un artista específico o por copias de su estilo.
Si retirar todo el corpus de un artista no modifica de manera efectiva el resultado, el demandante podría tener problemas para demostrar una contribución causal directa y específica de esas obras a esa imagen generada.
Pero el estudio no decide ningún caso ni establece una regla jurídica. Las disputas por copyright pueden centrarse en cuestiones diferentes, como la copia no autorizada durante el entrenamiento, la similitud sustancial entre una imagen generada y una obra protegida, el acceso a los materiales, el perjuicio al mercado, las condiciones contractuales u otros elementos legales.
Los límites del resultado
No demuestra que no exista memorización
Una imagen puede no ser atribuible a una sola unidad bajo esta prueba de eliminación y, aun así, el modelo puede haber memorizado material, reproducirlo con determinados prompts o condiciones de muestreo, o generar un resultado sustancialmente similar a una obra protegida. El estudio mide la sensibilidad causal a la eliminación de unidades; no examina todas las formas posibles de memorización o infracción.
No es un resultado sobre modelos de lenguaje
La investigación se ocupa de modelos de difusión para generar imágenes. Su técnica de conjuntos y ablaciones, así como el resultado empírico sobre el escalado, no se han demostrado por ello en modelos de lenguaje grandes basados en transformadores.
No sustituye a otras pruebas
Los tribunales y los investigadores técnicos seguirían necesitando pruebas de reproducción mediante prompts, análisis de similitud y procedencia, registros de los datos de entrenamiento y del sistema, auditorías de modelos y un análisis jurídico aplicable.
La “decadencia de la atribución” sugiere que una explicación causal basada en una única fuente puede dejar de funcionar cuando el modelo se entrena con grandes volúmenes de datos. No demuestra que la copia no pueda probarse mediante otras evidencias.
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
Después compararon el conjunto de modelos con 24 modelos de difusión convencionales entrenados con los mismos datos. Según el estudio, ambos enfoques obtuvieron medidas estándar de calidad de imagen aproximadamente comparables.
En total, analizaron 24 conjuntos de modelos entrenados con siete colecciones públicas de imágenes, que iban desde 256 ejemplos hasta más de 160.000. Para cada resultado generado, produjeron un “universo contrafactual”: versiones correspondientes a la eliminación de cada unidad candidata del entrenamiento. La mayor diferencia entre la imagen original y esas versiones se definió como el radio contrafactual, una medida del efecto causal máximo de una unidad omitida.
Qué reveló la “decadencia de la atribución”
El radio contrafactual disminuía a medida que aumentaba el tamaño de los conjuntos de datos. Es decir, retirar una sola imagen producía cada vez menos cambios apreciables en el resultado generado.
El efecto podía extenderse más allá de una imagen individual. Cuando el entrenamiento alcanzaba escalas suficientemente grandes, eliminar todas las imágenes de un artista o todas las fotografías que mostraban a una persona concreta tampoco alteraba de forma apreciable una muestra generada.
En los términos de la prueba, eso implica que no se puede asignar responsabilidad causal a esa unidad —o a esa categoría de imágenes— por ese resultado específico si su eliminación no cambia el resultado.
Qué significa para el copyright
El hallazgo podría dificultar una teoría concreta de infracción en ciertos litigios contra empresas de generación de imágenes, como Midjourney, OpenAI o Microsoft: aquella que sostiene que una imagen determinada fue causada directamente por las obras de un artista específico o por copias de su estilo.
Si retirar todo el corpus de un artista no modifica de manera efectiva el resultado, el demandante podría tener problemas para demostrar una contribución causal directa y específica de esas obras a esa imagen generada.
Pero el estudio no decide ningún caso ni establece una regla jurídica. Las disputas por copyright pueden centrarse en cuestiones diferentes, como la copia no autorizada durante el entrenamiento, la similitud sustancial entre una imagen generada y una obra protegida, el acceso a los materiales, el perjuicio al mercado, las condiciones contractuales u otros elementos legales.
Los límites del resultado
No demuestra que no exista memorización
Una imagen puede no ser atribuible a una sola unidad bajo esta prueba de eliminación y, aun así, el modelo puede haber memorizado material, reproducirlo con determinados prompts o condiciones de muestreo, o generar un resultado sustancialmente similar a una obra protegida. El estudio mide la sensibilidad causal a la eliminación de unidades; no examina todas las formas posibles de memorización o infracción.
No es un resultado sobre modelos de lenguaje
La investigación se ocupa de modelos de difusión para generar imágenes. Su técnica de conjuntos y ablaciones, así como el resultado empírico sobre el escalado, no se han demostrado por ello en modelos de lenguaje grandes basados en transformadores.
No sustituye a otras pruebas
Los tribunales y los investigadores técnicos seguirían necesitando pruebas de reproducción mediante prompts, análisis de similitud y procedencia, registros de los datos de entrenamiento y del sistema, auditorías de modelos y un análisis jurídico aplicable.
La “decadencia de la atribución” sugiere que una explicación causal basada en una única fuente puede dejar de funcionar cuando el modelo se entrena con grandes volúmenes de datos. No demuestra que la copia no pueda probarse mediante otras evidencias.
news.mit.edu
Artificial intelligence | Massachusetts Institute of Technology
news.mit.eduWhen AI art has no author: Study finds generated images often can't ...
pmc.ncbi.nlm.nih.govAuthorship Attribution in the Era of LLMs: Problems ... - PMC