Dépendance et perte d'autonomie. Les utilisateurs peuvent développer des liens affectifs avec des IA humanisées. Ce phénomène crée des risques de dépendance excessive et d'atteinte à la vie privée et à l'autonomie . Les personnes sont plus enclines à divulguer des informations personnelles à un chatbot « à visage humain » , et le mécanisme d'« inférence anthropomorphique » pousse les utilisateurs à attribuer des rôles sociaux à ce qui n'est fondamentalement qu'un système de prédiction de texte .

Distorsion des jugements moraux et juridiques. L'anthropomorphisme, en tant que sophisme, fausse notre appréciation morale de l'IA : on lui attribue un caractère, un statut, ou une responsabilité qu'elle ne peut avoir . Les utilisateurs peuvent être amenés à conférer une responsabilité morale à une machine , et les entreprises utilisant ces « personnes de synthèse » peuvent manipuler les consommateurs tout en éludant leur propre responsabilité .

Risques de sécurité informatique accrues. Tout ce qui est conçu pour persuader rend plus vulnérable à la manipulation. D'un point de vue cybersécurité, l'IA anthropomorphisée est une menace sérieuse car elle exploite nos heuristiques de confiance, qui peuvent être transformées en armes par des escrocs .

Exagération des capacités et « hype » autour de l'IA. Le langage anthropomorphique gonfle systématiquement ce que les systèmes d'IA sont vraiment capables de faire, contribuant à une méconnaissance généralisée de leurs limites réelles .

Dépendance et perte d'autonomie. Les utilisateurs peuvent développer des liens affectifs avec des IA humanisées. Ce phénomène crée des risques de dépendance excessive et d'atteinte à la vie privée et à l'autonomie . Les personnes sont plus enclines à divulguer des informations personnelles à un chatbot « à visage humain » , et le mécanisme d'« inférence anthropomorphique » pousse les utilisateurs à attribuer des rôles sociaux à ce qui n'est fondamentalement qu'un système de prédiction de texte .

Distorsion des jugements moraux et juridiques. L'anthropomorphisme, en tant que sophisme, fausse notre appréciation morale de l'IA : on lui attribue un caractère, un statut, ou une responsabilité qu'elle ne peut avoir . Les utilisateurs peuvent être amenés à conférer une responsabilité morale à une machine , et les entreprises utilisant ces « personnes de synthèse » peuvent manipuler les consommateurs tout en éludant leur propre responsabilité .

Risques de sécurité informatique accrues. Tout ce qui est conçu pour persuader rend plus vulnérable à la manipulation. D'un point de vue cybersécurité, l'IA anthropomorphisée est une menace sérieuse car elle exploite nos heuristiques de confiance, qui peuvent être transformées en armes par des escrocs .

Exagération des capacités et « hype » autour de l'IA. Le langage anthropomorphique gonfle systématiquement ce que les systèmes d'IA sont vraiment capables de faire, contribuant à une méconnaissance généralisée de leurs limites réelles .