À medida que os bancos de imagens crescem, a origem das criações de IA se perde

A maior diferença medida entre o resultado original e essas versões contrafactuais recebeu o nome de raio contrafactual. A métrica indica quanto a remoção de uma unidade de treinamento pode alterar o resultado.

O que é o “decaimento da atribuição”

O raio contrafactual diminuiu conforme os conjuntos de treinamento cresceram. Em termos práticos, retirar uma imagem passou a produzir um resultado cada vez mais difícil de distinguir do original dentro da medição adotada pelo estudo.

A conclusão é contraintuitiva: adicionar mais dados pode tornar uma imagem gerada menos atribuível a qualquer exemplo individual, mesmo quando esse exemplo fez parte do treinamento. Em vez de depender de uma única imagem identificável, o modelo pode aprender padrões amplos e sobrepostos a partir de muitas fontes.

Em escalas suficientemente grandes, o efeito também apareceu além das imagens isoladas. Segundo o estudo, retirar todas as imagens de um determinado artista — ou todas as fotografias que retratavam uma pessoa específica — podia deixar a amostra gerada praticamente inalterada no cenário contrafactual testado.

Por isso, os pesquisadores tratam o fenômeno como um decaimento, e não apenas como uma falha dos instrumentos de rastreamento. O problema pode não ser a falta de uma ferramenta suficientemente poderosa: a conexão causal entre uma fonte e um resultado pode, de fato, ficar difusa demais para ser isolada.

O possível impacto em processos de direitos autorais

O decaimento da atribuição pode dificultar uma teoria específica em ações de direitos autorais: a alegação de que determinado resultado foi diretamente causado pelas obras de um artista identificado — ou por cópias dessas obras — presentes nos dados de treinamento. Se retirar todo o acervo de um artista não altera materialmente a imagem, fica mais difícil sustentar que esse conjunto era individualmente indispensável para aquele resultado sob esse teste causal.

Isso pode influenciar disputas envolvendo geradores comerciais de imagens e alegações de que modelos copiam o estilo de artistas. Em sistemas treinados em grande escala, torna-se mais frágil uma narrativa simples de “uma única fonte”, na qual um resultado reconhecível é tratado como produto direto de uma obra ou de um artista específico. O estudo, portanto, pode complicar casos de propriedade intelectual envolvendo sistemas generativos de imagens.

Mas a pesquisa não determina se uma empresa infringiu direitos autorais e não cria, por si só, uma defesa jurídica. Processos desse tipo podem envolver perguntas diferentes: se obras protegidas foram copiadas durante o treinamento; se um resultado é substancialmente semelhante a uma obra protegida; o que o sistema consegue reproduzir com determinados comandos; além de danos, contratos e outras obrigações aplicáveis.

Em outras palavras, o sentido técnico de “não atribuível” não é automaticamente o mesmo que o sentido jurídico de “não copiado”.

Por que o estudo não prova que os modelos não memorizam

O experimento mede a sensibilidade do resultado à remoção de unidades de treinamento. Ele não testa todas as formas pelas quais um modelo pode reter ou reproduzir informações.

Um modelo pode demonstrar pouca dependência de uma imagem isolada no teste de exclusão do ensemble e ainda assim reproduzir uma obra específica sob determinados comandos ou condições de amostragem. Um resultado também pode se parecer com uma obra protegida mesmo quando nenhuma imagem individual é considerada causalmente necessária para produzi-lo.

São perguntas diferentes:

• Esta imagem influenciou o resultado? O teste de remoção identifica uma mudança mensurável quando a influência da imagem é retirada.
• O modelo viu ou reteve a imagem? O modelo foi exposto a ela ou pode ter memorizado aspectos de seu conteúdo.
• O resultado copia uma obra protegida? Essa é uma conclusão técnica e jurídica que exige evidências adicionais.

O estudo trata diretamente da primeira pergunta. Ele não resolve a segunda nem a terceira.

O resultado ainda não vale automaticamente para grandes modelos de linguagem

A pesquisa aborda modelos generativos de difusão voltados a imagens e outras mídias audiovisuais. A arquitetura de ensemble e o padrão de escala observados não devem ser generalizados automaticamente para grandes modelos de linguagem, os chamados LLMs.

Modelos de linguagem têm arquiteturas, procedimentos de treinamento, representações em tokens e comportamentos de saída diferentes. O estudo pode indicar um caminho experimental para futuras pesquisas sobre atribuição, mas não demonstra que o mesmo tipo de decaimento ocorre em LLMs.

O que ainda precisa ser investigado

Quando a questão é saber se um sistema de IA copiou uma obra, o decaimento da atribuição é apenas uma parte das evidências. Tribunais e investigadores técnicos ainda podem precisar analisar:

• se o sistema reproduz uma obra específica com comandos controlados;
• a semelhança visual entre o resultado e a obra supostamente copiada;
• a procedência dos dados, o acesso a eles e os registros do treinamento;
• auditorias do modelo e a documentação do sistema;
• se o resultado reflete apenas um estilo amplo ou uma expressão protegida identificável; e
• os critérios jurídicos aplicáveis à disputa.

A principal lição do estudo é mais precisa — e mais útil — do que dizer que a IA “esquece” suas fontes. Conforme os conjuntos de dados de difusão crescem, a contribuição causal de exemplos individuais pode se tornar difusa demais para ser detectada em um resultado específico. Isso torna a atribuição de origem mais difícil, mas não torna impossível investigar memorização, reprodução ou violação de direitos autorais.