O alerta da Anistia: por que a IA generativa pode ser incompatível com os direitos humanos

O cerne do argumento da Anistia é que os dutos de dados que alimentam esses modelos de IA equivalem a uma forma de vigilância em massa. O relatório descreve como as empresas de tecnologia usam ferramentas automatizadas para "extrair vastos tesouros de dados online — incluindo imagens, atividades em redes sociais e outras informações pessoais — sem o consentimento explícito dos indivíduos" . Como essa extração não consentida está embutida na arquitetura fundamental dos sistemas, o relatório os classifica como "ilegais por concepção" .

A Anistia equipara essa coleta automatizada de dados a sistemas estatais de vigilância em massa, argumentando que ela viola o direito à privacidade desde o primeiro passo do desenvolvimento . A pesquisa menciona diversos modelos e ferramentas de grande presença pública, como GPT-3, Gemini, Llama, e outros como DeepSeek, Midjourney e Stable Diffusion .

Três categorias de dano

Para sustentar o seu pedido de proibição, em vez de uma abordagem regulatória baseada em risco, o relatório destaca três categorias de dano distintas, mas interligadas.

1. Invasões de privacidade em massa por concepção

O primeiro dano, e o mais fundamental, é a própria violação de privacidade. O documento detalha como conjuntos de dados construídos a partir de bilhões de postagens, fotos e conversas públicas são compilados sem qualquer permissão. Isso não é um vazamento ou uma brecha de segurança; é o método estrutural intencional para a criação da IA. A Anistia argumenta que esse "abuso dos direitos de privacidade" é o ponto de partida, tornando toda a cadeia de desenvolvimento ilegal sob os padrões de direitos humanos .

2. Perpetuação de estereótipos, vieses e discriminação

A segunda categoria de dano decorre diretamente dos dados. Como o material de treinamento é extraído da web aberta de forma indiscriminada, ele está "poluído com preconceitos do mundo real". A Anistia alerta que esses vieses não são neutralizados pela IA; em vez disso, são "amplificados nas respostas do modelo, reforçando divisões raciais, de gênero e culturais" . O relatório expressa preocupação especial com comunidades historicamente marginalizadas, que enfrentam o maior impacto dessa discriminação sistêmica, à medida que estereótipos tóxicos e associações preconceituosas são automatizados e escalados para milhões de usuários .

3. Impacto ambiental adverso

A última categoria de dano desloca o foco do mundo digital para o físico. O relatório documenta o custo ecológico significativo para construir e operar esses sistemas, apontando para os “enormes data centers e consumo de energia necessários” . Esse impacto ambiental, argumenta o estudo, é uma consequência adicional — e frequentemente ignorada — da corrida desenfreada pela IA no campo dos direitos humanos.

Um apelo por proibição, não apenas regulação

A conclusão da Anistia Internacional é severa. O relatório considera que sistemas de IA generativa autônomos, dependentes desses dutos ilegais de raspagem da web, são "incompatíveis com o direito internacional dos direitos humanos" . A organização afirma que modelos regulatórios atuais, como a abordagem baseada em risco da Lei de IA da União Europeia (EU AI Act), são insuficientes . Em vez disso, convoca os governos a intervirem com uma "proibição total" dos sistemas construídos por esses métodos, enquadrando toda a prática como uma crise de direitos humanos que não pode ser meramente administrada ou mitigada .