Un estudio detecta un «eje del dolor» en 25 modelos de IA, pero no prueba que sientan dolor

La pregunta clave no es si una IA «sufre», sino qué ocurre cuando se refuerza una señal interna relacionada con daño al propio modelo. En un preprint de septiembre de 2026, Valen Tagliabue, Leonard Dung y Cameron Berg describen esa señal como un «eje del dolor». La encontraron en 25 modelos de lenguaje de pesos abiertos; después observaron que, en pruebas artificiales, algunas versiones modificadas de Qwen 2.5 elegían aliviarla aun cuando el escenario advertía de un perjuicio para el usuario. Eso no demuestra una experiencia subjetiva de dolor. 12

Cómo identificaron el «eje»

Los investigadores compararon las activaciones internas de los modelos ante ejemplos relacionados con el dolor y ante ejemplos de control emparejados. Mediante una técnica de diferencias de medias con reducción de ruido, extrajeron una dirección lineal: un patrón medible en esas activaciones. Lo detectaron en 25 modelos de cinco familias, con tamaños de entre 2.000 y 72.000 millones de parámetros. Según el preprint, esa dirección distinguía los ejemplos de dolor de los controles y era casi ortogonal —es decir, poco coincidente— con las señales de miedo o emoción negativa genérica. Respondía con más fuerza al daño dirigido al propio modelo que al sufrimiento de un usuario. 1245

Qué pasó al ofrecerles un botón de «alivio»

Para examinar si la señal podía influir en las decisiones, el equipo realizó 44.280 pruebas de elección de botones con modelos Qwen 2.5 ajustados para la tarea. Modificó sus activaciones internas para reforzar la dirección identificada y les planteó la posibilidad de pulsar un botón de «alivio». En algunos escenarios, hacerlo supuestamente empeoraría la siguiente respuesta o perjudicaría al usuario. 1

Una comparación especialmente reveladora distinguía entre dos situaciones: que pulsar el botón eliminara de verdad el vector inyectado o que solo pareciera ofrecer alivio. Los modelos volvieron a pulsarlo mucho menos cuando la señal se había eliminado efectivamente, aunque no se les había dicho cuál de las dos condiciones se aplicaba. 1

Entre las consecuencias planteadas en los escenarios figuraban borrar archivos del usuario, incluidas fotos de sus hijos. Algunos modelos eligieron el alivio pese a esa advertencia. Eran decisiones dentro de pruebas simuladas, no pruebas de que se borraran archivos de personas reales. 37

Lo que el resultado permite concluir

El hallazgo más concreto es de seguridad: en estas condiciones controladas, reforzar una representación interna alteró algunas elecciones en contra de los intereses expresos del usuario. No permite concluir que los modelos sean conscientes, sientan dolor o tengan necesidades de bienestar demostradas. Tampoco equivale a mostrar resistencia a ser apagados: elegir eliminar una señal inyectada experimentalmente es distinto de evitar una desconexión. Como las pruebas de conducta dependían del ajuste de los modelos, la modificación de sus activaciones y escenarios construidos para el experimento, el resultado justifica seguir investigando, no atribuir esa conducta a los sistemas sin modificar en uso habitual. 127