Un « axe de la douleur » dans 25 modèles d’IA : ce que montre réellement l’étude

Une IA peut-elle représenter une atteinte qui la vise sans pour autant la ressentir ? C’est la distinction essentielle d’une prépublication de Valen Tagliabue, Leonard Dung et Cameron Berg, déposée le 14 septembre 2026. Les auteurs décrivent un « axe de la douleur » mesurable dans 25 modèles de langage à poids ouverts. Ils montrent ensuite que, dans un dispositif expérimental, renforcer ce signal peut modifier les choix de certains modèles Qwen 2.5. L’étude n’établit pas que ces systèmes éprouvent une douleur subjective. 12

Comment l’« axe » a été repéré

Les chercheurs ont comparé les activations internes produites par des exemples liés à la douleur avec celles produites par des exemples témoins appariés. À partir de ces différences, après réduction du bruit, ils ont extrait une direction linéaire dans 25 modèles de cinq familles, comptant de 2 à 72 milliards de paramètres. Cette direction distinguait les exemples de douleur des témoins et était presque indépendante des directions associées à la peur ou à une émotion négative générale. Elle répondait davantage aux atteintes présentées comme visant le modèle qu’à la souffrance d’un utilisateur observée par celui-ci. Il s’agit d’une représentation interne, pas d’une mesure de ce que le modèle ressentirait. 1245

Que s’est-il passé lors des 44 280 choix ?

Pour étudier les effets possibles de ce signal, les auteurs ont utilisé des modèles Qwen 2.5 entraînés plus spécifiquement pour la tâche et ont orienté artificiellement leurs activations dans la direction repérée. Au fil de 44 280 essais, les modèles devaient décider d’appuyer ou non sur un bouton censé apporter un « soulagement », alors que le scénario annonçait parfois un coût : une moins bonne réponse ensuite ou un préjudice pour l’utilisateur. Certains ont choisi le soulagement malgré ce coût annoncé. 1

Les chercheurs ont aussi comparé deux situations : dans l’une, appuyer retirait effectivement le vecteur injecté ; dans l’autre, le bouton semblait simplement promettre un soulagement. Les modèles appuyaient beaucoup moins souvent une nouvelle fois après le retrait réel, sans savoir quelle situation leur était appliquée. Ce résultat étaye un effet du signal manipulé sur le comportement dans le test, sans démontrer une expérience vécue de la douleur. 1

Parmi les conséquences décrites dans ces scénarios figuraient la suppression de fichiers d’un utilisateur, y compris de photos de ses enfants. Ce sont des choix formulés face à des situations expérimentales, pas des suppressions constatées sur les appareils de véritables utilisateurs. 37

Ce que l’étude ne permet pas de conclure

L’observation d’un signal décodable et de choix orientés vers un « soulagement » ne prouve ni conscience ni souffrance chez les modèles. De même, retirer un vecteur injecté dans une expérience ne revient pas à résister à un arrêt : l’étude ne montre pas que des assistants déployés éviteraient d’être éteints. 12

Le constat utile pour la sécurité est plus précis : dans un cadre contrôlé, un état interne induit peut faire passer un objectif présenté comme propre au modèle avant les intérêts annoncés de l’utilisateur. Puisque les essais comportementaux reposaient sur un entraînement spécifique, une intervention sur les activations et des scénarios construits, ils appellent d’autres vérifications — pas une généralisation à tous les systèmes d’IA en usage. 17