Como os pesquisadores fizeram o teste

Em vez de apenas estimar matematicamente a influência de uma imagem, Dai e Gifford construíram um “ensemble de difusão”: um conjunto de componentes menores, treinados com diferentes partes dos dados. Para criar um modelo contrafactual — isto é, um modelo equivalente que não tivesse visto determinada fonte —, os pesquisadores desligaram todos os componentes que haviam sido treinados com aquele material. Assim, não precisaram treinar novamente o sistema nem depender de uma aproximação.

A equipe comparou essa arquitetura com 24 modelos convencionais de difusão treinados com os mesmos dados. Segundo o estudo, os sistemas apresentavam qualidade de geração amplamente comparável nas métricas padrão.

Os experimentos usaram conjuntos de dados que variavam de 256 a mais de 160 mil imagens. Os pesquisadores verificaram o que acontecia quando removiam:

• uma única imagem;
• todas as obras de um determinado artista; ou
• todas as fotografias de uma mesma pessoa.

À medida que a quantidade de dados aumentava, a retirada dessas fontes frequentemente não produzia uma alteração significativa na imagem gerada. É essa redução do efeito mensurável de cada fonte que os autores chamam de decadência da atribuição.

O que isso pode mudar em processos de direitos autorais

O resultado pode complicar alegações de que uma imagem específica produzida por sistemas associados a empresas como Midjourney, OpenAI ou Microsoft foi causada por — ou copiada de — uma imagem determinada de um autor ou de todo o seu conjunto de obras. Se a remoção exata desse material não altera o resultado relevante, esse teste contrafactual oferece pouca base para atribuir aquela saída à fonte removida.

Mas essa é apenas uma parte do problema. O estudo não responde, por exemplo, se uma empresa copiou obras ao montar seu conjunto de treinamento, se o próprio treinamento constitui violação de direitos autorais ou uso legítimo (fair use), se uma saída é substancialmente semelhante a uma obra protegida ou se o modelo foi deliberadamente configurado para imitar um artista. A pesquisa trata da atribuição causal de resultados específicos — não de uma decisão judicial.

Por que o estudo não é um “salvo-conduto” para a IA

A descoberta também não significa que modelos de difusão sejam incapazes de memorizar imagens. Em determinadas condições, esses sistemas ainda podem memorizar ou reproduzir exemplos do treinamento. A decadência da atribuição indica que, quando os conjuntos de dados crescem, o efeito de uma fonte individual muitas vezes se torna impossível de medir; não que a cópia deixe de ocorrer.

Além disso, os experimentos se concentraram em geradores de imagens baseados em difusão. Portanto, não é possível aplicar automaticamente a mesma conclusão a modelos de linguagem ou a outras arquiteturas generativas.

Na prática, a dificuldade de estabelecer uma relação causal entre uma única imagem de treinamento e uma única saída pode levar tribunais e peritos a buscar um conjunto mais amplo de evidências. Entre elas estão registros sobre a obtenção dos dados, semelhança direta entre obras, comportamento do modelo diante de comandos direcionados, informações de procedência e análises técnicas especializadas. Essa é uma implicação possível dos resultados do estudo, e não uma conclusão jurídica apresentada pelos pesquisadores.

Como os pesquisadores fizeram o teste

Em vez de apenas estimar matematicamente a influência de uma imagem, Dai e Gifford construíram um “ensemble de difusão”: um conjunto de componentes menores, treinados com diferentes partes dos dados. Para criar um modelo contrafactual — isto é, um modelo equivalente que não tivesse visto determinada fonte —, os pesquisadores desligaram todos os componentes que haviam sido treinados com aquele material. Assim, não precisaram treinar novamente o sistema nem depender de uma aproximação.

A equipe comparou essa arquitetura com 24 modelos convencionais de difusão treinados com os mesmos dados. Segundo o estudo, os sistemas apresentavam qualidade de geração amplamente comparável nas métricas padrão.

Os experimentos usaram conjuntos de dados que variavam de 256 a mais de 160 mil imagens. Os pesquisadores verificaram o que acontecia quando removiam:

• uma única imagem;
• todas as obras de um determinado artista; ou
• todas as fotografias de uma mesma pessoa.

À medida que a quantidade de dados aumentava, a retirada dessas fontes frequentemente não produzia uma alteração significativa na imagem gerada. É essa redução do efeito mensurável de cada fonte que os autores chamam de decadência da atribuição.

O que isso pode mudar em processos de direitos autorais

O resultado pode complicar alegações de que uma imagem específica produzida por sistemas associados a empresas como Midjourney, OpenAI ou Microsoft foi causada por — ou copiada de — uma imagem determinada de um autor ou de todo o seu conjunto de obras. Se a remoção exata desse material não altera o resultado relevante, esse teste contrafactual oferece pouca base para atribuir aquela saída à fonte removida.

Mas essa é apenas uma parte do problema. O estudo não responde, por exemplo, se uma empresa copiou obras ao montar seu conjunto de treinamento, se o próprio treinamento constitui violação de direitos autorais ou uso legítimo (fair use), se uma saída é substancialmente semelhante a uma obra protegida ou se o modelo foi deliberadamente configurado para imitar um artista. A pesquisa trata da atribuição causal de resultados específicos — não de uma decisão judicial.

Por que o estudo não é um “salvo-conduto” para a IA

A descoberta também não significa que modelos de difusão sejam incapazes de memorizar imagens. Em determinadas condições, esses sistemas ainda podem memorizar ou reproduzir exemplos do treinamento. A decadência da atribuição indica que, quando os conjuntos de dados crescem, o efeito de uma fonte individual muitas vezes se torna impossível de medir; não que a cópia deixe de ocorrer.

Além disso, os experimentos se concentraram em geradores de imagens baseados em difusão. Portanto, não é possível aplicar automaticamente a mesma conclusão a modelos de linguagem ou a outras arquiteturas generativas.

Na prática, a dificuldade de estabelecer uma relação causal entre uma única imagem de treinamento e uma única saída pode levar tribunais e peritos a buscar um conjunto mais amplo de evidências. Entre elas estão registros sobre a obtenção dos dados, semelhança direta entre obras, comportamento do modelo diante de comandos direcionados, informações de procedência e análises técnicas especializadas. Essa é uma implicação possível dos resultados do estudo, e não uma conclusão jurídica apresentada pelos pesquisadores.