Anthropomorphiser l'IA : les dangers éthiques et pratiques d'une illusion trop humaine

Pourquoi personnifier l'IA est un problème bien plus grave qu'une simple métaphore

Anthropomorphiser l'IA — c'est-à-dire lui prêter des émotions, des intentions, une conscience ou un jugement moral humains — n'est pas qu'une maladresse de langage. C'est un phénomène qui engendre une cascade de préjudices éthiques et pratiques bien réels. Et le vocabulaire que nous employons, en particulier si nous parlons « de l'IA » (un nom qui suggère un agent unique) plutôt que « des systèmes d'IA » (un adjectif décrivant un outil), alimente directement ces malentendus .

Les dangers éthiques et pratiques

• Tromperie et manipulation. Lorsque les utilisateurs ne parviennent plus à distinguer un interlocuteur humain d'une machine, les risques de tromperie, de manipulation et de désinformation explosent . Des entreprises conçoivent délibérément des agents conversationnels très anthropomorphes pour exploiter notre tendance naturelle à personnifier, ce qui peut mener à des pratiques commerciales trompeuses . Le concept de « séduction anthropomorphique » décrit cet attrait pour une interaction qui semble humaine mais qui est dépourvue de toute expérience ou empathie réelle .

• Dépendance et perte d'autonomie. Les utilisateurs peuvent développer des liens affectifs avec des IA humanisées. Ce phénomène crée des risques de dépendance excessive et d'atteinte à la vie privée et à l'autonomie . Les personnes sont plus enclines à divulguer des informations personnelles à un chatbot « à visage humain » , et le mécanisme d'« inférence anthropomorphique » pousse les utilisateurs à attribuer des rôles sociaux à ce qui n'est fondamentalement qu'un système de prédiction de texte .

• Distorsion des jugements moraux et juridiques. L'anthropomorphisme, en tant que sophisme, fausse notre appréciation morale de l'IA : on lui attribue un caractère, un statut, ou une responsabilité qu'elle ne peut avoir . Les utilisateurs peuvent être amenés à conférer une responsabilité morale à une machine , et les entreprises utilisant ces « personnes de synthèse » peuvent manipuler les consommateurs tout en éludant leur propre responsabilité .

• Risques de sécurité informatique accrues. Tout ce qui est conçu pour persuader rend plus vulnérable à la manipulation. D'un point de vue cybersécurité, l'IA anthropomorphisée est une menace sérieuse car elle exploite nos heuristiques de confiance, qui peuvent être transformées en armes par des escrocs .

• Exagération des capacités et « hype » autour de l'IA. Le langage anthropomorphique gonfle systématiquement ce que les systèmes d'IA sont vraiment capables de faire, contribuant à une méconnaissance généralisée de leurs limites réelles .

Le pouvoir des mots : « l'IA » contre « un système d'IA »

La prestigieuse revue scientifique Nature a pris une position claire sur ce sujet : « Nous essaierons d'éviter à tout prix l'emploi de 'the AI / an AI' en raison de la fâcheuse suggestion d'agence qu'il implique. Nous utiliserons plutôt 'the AI system / an AI system' ou serons très explicites sur ce dont nous parlons. »

Traiter « IA » comme un nom comptable (par exemple, « l'IA a décidé », « une IA qui pense ») sous-entend subtilement l'existence d'une entité unifiée, auto-dirigée et dotée d'états mentaux. Reformuler « IA » comme un adjectif modifiant « système » (ou « modèle », « outil », « algorithme ») rappelle constamment au public qu'il s'agit d'un artefact d'ingénierie, et non d'un esprit . Ce simple changement linguistique est un garde-fou qui permet de contrer ce qu'une analyse appelle la dimension « terminologique » du battage médiatique autour de l'IA .

En résumé : Anthropomorphiser l'IA n'est pas une métaphore inoffensive. Cela conduit à la tromperie, à une confiance aveugle, à la manipulation et à un brouillage des responsabilités. Une simple discipline linguistique — utiliser « systèmes d'IA » au lieu de « l'IA » — constitue un correctif constant qui maintient au premier plan la nature d'outil de la technologie.