Anthropomorphiser l'IA : les dangers éthiques et pratiques d'une illusion trop humaine

Dépendance et perte d'autonomie. Les utilisateurs peuvent développer des liens affectifs avec des IA humanisées. Ce phénomène crée des risques de dépendance excessive et d'atteinte à la vie privée et à l'autonomie . Les personnes sont plus enclines à divulguer des informations personnelles à un chatbot « à visage humain » , et le mécanisme d'« inférence anthropomorphique » pousse les utilisateurs à attribuer des rôles sociaux à ce qui n'est fondamentalement qu'un système de prédiction de texte .

Distorsion des jugements moraux et juridiques. L'anthropomorphisme, en tant que sophisme, fausse notre appréciation morale de l'IA : on lui attribue un caractère, un statut, ou une responsabilité qu'elle ne peut avoir . Les utilisateurs peuvent être amenés à conférer une responsabilité morale à une machine , et les entreprises utilisant ces « personnes de synthèse » peuvent manipuler les consommateurs tout en éludant leur propre responsabilité .

Risques de sécurité informatique accrues. Tout ce qui est conçu pour persuader rend plus vulnérable à la manipulation. D'un point de vue cybersécurité, l'IA anthropomorphisée est une menace sérieuse car elle exploite nos heuristiques de confiance, qui peuvent être transformées en armes par des escrocs .

Exagération des capacités et « hype » autour de l'IA. Le langage anthropomorphique gonfle systématiquement ce que les systèmes d'IA sont vraiment capables de faire, contribuant à une méconnaissance généralisée de leurs limites réelles .