Estudo do MIT identifica “decadência da atribuição” em imagens geradas por IA

Isso não significa que a imagem não tenha desempenhado nenhum papel no treinamento geral do modelo. Significa que, para um resultado específico e dentro do teste de remoção usado no estudo, a contribuição causal individual daquela fonte pode ser pequena demais para ser detectada.

Como funcionou o ensemble de difusão

Investigar essa questão diretamente é difícil. Um método convencional exigiria treinar novamente um modelo depois de retirar uma imagem da base e, em seguida, comparar o novo resultado com o original. Repetir o processo para imagens individuais, artistas ou pessoas seria caro, e métodos aproximados podem não eliminar todos os efeitos posteriores provocados pelos dados retirados.

Dai e Gifford adotaram outra estratégia e criaram um ensemble de difusão: vários componentes menores treinados com subconjuntos diferentes e sobrepostos dos dados. Para testar a influência de uma fonte, os pesquisadores podiam desligar os componentes que haviam tido acesso a ela e gerar o resultado contrafactual — isto é, o que o sistema produziria sem aquela fonte — sem retreinar o modelo inteiro.

A equipe comparou esse método com 24 modelos convencionais de difusão treinados com os mesmos dados. Segundo os pesquisadores, a qualidade dos resultados foi amplamente comparável pelas métricas padrão.

A arquitetura permitiu um teste exato de remoção dentro do sistema desenvolvido: se o resultado permanecesse igual depois que todos os componentes que haviam visto determinada fonte fossem desligados, o experimento não apresentaria evidência mensurável de que aquela fonte havia causado o resultado.

O impacto possível em processos de direitos autorais

A decadência da atribuição pode dificultar um tipo específico de alegação: a de que uma determinada imagem gerada foi causada por — ou copiada de — uma imagem de um autor ou de todo o conjunto de obras de um artista. Se retirar esse material não mudar o resultado em um teste contrafactual exato, o teste oferece pouco suporte para atribuir aquela imagem à fonte removida.

Esse tipo de questão pode aparecer em disputas envolvendo serviços de geração de imagens e desenvolvedores de modelos, incluindo empresas como Midjourney, OpenAI e Microsoft. O estudo, porém, não determina a responsabilidade jurídica de nenhuma companhia. Ele apresenta evidências sobre a dificuldade de estabelecer vínculos causais entre dados individuais de treinamento e resultados individuais.

Várias perguntas jurídicas continuam separadas e sem resposta pelo estudo:

• Como os dados foram obtidos? A pesquisa não determina se foi legal coletar ou usar uma obra protegida no treinamento.
• O resultado é substancialmente semelhante a uma obra protegida? A semelhança visual pode ser relevante mesmo quando é difícil provar a atribuição causal a um único arquivo.
• O sistema memorizou ou reproduziu um exemplo? Em determinadas situações, um modelo pode reproduzir material de treinamento — algo diferente de provar que todo resultado é atribuível a uma única fonte.
• O sistema foi configurado para imitar um artista? Prompts direcionados, ajustes específicos do modelo ou outros comportamentos podem fornecer evidências que não aparecem em um teste de remoção de uma única imagem.

Na prática, tribunais e investigadores talvez precisem analisar um conjunto mais amplo de provas: registros de aquisição dos dados, informações de procedência, análise direta de semelhança, testes com prompts direcionados, evidências sobre o comportamento do modelo e pareceres técnicos. Essa conclusão decorre da constatação de que a atribuição entre uma imagem e um resultado específico se torna menos confiável em grande escala; não é uma regra jurídica criada pela pesquisa.

Por que o estudo não dá carta branca às empresas de IA

A decadência da atribuição não deve ser interpretada como prova de que modelos de difusão nunca copiam. O resultado indica que a influência mensurável de uma fonte individual pode se tornar insignificante à medida que os conjuntos de treinamento crescem. Em determinadas condições, os modelos ainda podem memorizar ou reproduzir exemplos usados no treinamento.

O escopo do trabalho também é limitado. A pesquisa examinou geradores de imagens baseados em difusão, portanto seus resultados não devem ser automaticamente aplicados a modelos de linguagem ou a outras arquiteturas generativas.

A leitura mais precisa é cautelosa: sistemas de difusão treinados em grandes bases podem dificultar a atribuição de uma imagem gerada a uma fonte individual, mesmo quando uma determinada imagem ou as obras de um artista fizeram parte do treinamento. Isso pode enfraquecer uma das formas de provar a responsabilidade por um resultado específico, mas deixa em aberto as questões mais amplas sobre práticas de treinamento, cópia, imitação e direitos de propriedade intelectual.