Os riscos de tratar a IA como se fosse humana

Esse efeito é descrito como “sedução antropomórfica”: a atração produzida por uma interação aparentemente humana, mesmo quando não existe experiência humana real, compreensão ou empatia por trás dela .

Excesso de confiança e perda de autonomia

Um chatbot que fala de maneira calorosa, demonstra uma personalidade ou parece “se importar” pode levar o usuário a confiar mais do que deveria. Pessoas podem se sentir mais à vontade para compartilhar informações pessoais com um chatbot humanizado do que compartilhariam com uma ferramenta apresentada de forma neutra .

A chamada “inferência antropomórfica” também faz com que usuários atribuam papéis sociais a sistemas que, fundamentalmente, produzem respostas com base em padrões e previsões de linguagem . Em situações sensíveis, isso pode contribuir para dependência emocional, excesso de confiança e enfraquecimento da autonomia e da privacidade .

Julgamentos morais e responsabilidade distorcidos

A antropomorfização pode confundir avaliações sobre o caráter, o status moral e a responsabilidade de um sistema de IA . Uma pessoa pode atribuir culpa, intenção ou responsabilidade moral à máquina, quando decisões e consequências dependem, na realidade, das pessoas e organizações que projetaram, implementaram ou utilizaram o sistema .

O uso corporativo de “pessoas” artificiais também pode influenciar consumidores e dificultar a identificação de quem deve responder por uma mensagem, recomendação ou decisão .

Riscos de segurança

Qualquer sistema desenhado para persuadir pode tornar as pessoas mais vulneráveis à manipulação. Do ponto de vista da segurança da informação, uma IA apresentada como humana pode explorar atalhos mentais associados à confiança — mecanismos que podem ser usados de forma maliciosa .

Exagero das capacidades e amplificação do hype

Termos antropomórficos tendem a fazer sistemas de IA parecerem mais capazes do que realmente são, contribuindo para a representação exagerada de suas habilidades . Dizer que um sistema “entende”, “sabe”, “quer” ou “decide” pode sugerir estados mentais e consciência que esses sistemas não possuem. Eles geram resultados a partir de padrões aprendidos e do processamento de entradas; isso não equivale a ter uma vida interior humana .

Por que “a IA” pode ser uma escolha enganosa

A diferença entre dizer “a IA” e “sistemas de IA” parece pequena, mas produz efeitos importantes.

Quando “IA” é usada como substantivo contável — em frases como “a IA decidiu” ou “uma IA que pensa” — a expressão pode sugerir uma entidade única, autônoma e dotada de intenções próprias. O artigo de opinião da Nature recomenda evitar “the AI/an AI” justamente por essa sugestão de agência e preferir formas como “the AI system/an AI system”, ou especificar exatamente a tecnologia em questão .

Em português, dizer “sistema de IA”, “modelo de linguagem”, “algoritmo” ou “ferramenta baseada em IA” mantém o foco no artefato técnico. A palavra “IA”, nesse caso, funciona como qualificadora: descreve o tipo de sistema, em vez de apresentar a tecnologia como uma mente independente.

Essa precisão não elimina todas as metáforas. Ainda podemos dizer que um modelo “responde” ou que um sistema “reconhece” um padrão, desde que fique claro que se trata de uma descrição funcional, não de uma afirmação sobre consciência, desejo ou compreensão humana. O problema surge quando a metáfora passa a orientar decisões reais e expectativas sobre a tecnologia.

Uma disciplina simples para falar com mais precisão

Em vez de escrever que “a IA sabe a resposta”, é mais preciso dizer que “o sistema gerou uma resposta com base nos dados e padrões disponíveis”. Em lugar de afirmar que “a IA se importa”, pode-se explicar que “o sistema foi configurado para usar uma linguagem acolhedora”.

Essa mudança ajuda a manter visíveis três fatos: há um sistema específico por trás da interação, ele tem limitações técnicas e existem pessoas e organizações responsáveis por seu desenvolvimento e uso.

Em resumo: antropomorfizar a IA pode favorecer engano, excesso de confiança, manipulação e confusão sobre responsabilidade. Preferir “sistemas de IA” a “a IA” é uma medida linguística simples, mas útil, para lembrar que essas tecnologias podem simular uma conversa humana sem pensar, sentir ou compreender o mundo como uma pessoa.