Altman alerta del riesgo de dar autoridad religiosa a la IA

Sam Altman dijo que le resulta «muy incómodo» que se atribuya «fuerza religiosa» a los modelos de inteligencia artificial o que las personas les entreguen su capacidad de juicio. Lo calificó de «verdadero problema de seguridad». En su publicación no nombró a Anthropic, pero el momento en que la hizo —pocos días después de que se informara sobre reuniones de esa empresa con especialistas religiosos— llevó a muchos a interpretar sus palabras como una crítica indirecta. 71

La distinción es importante: conversar sobre cómo debería comportarse una IA o preguntarse si podría ser consciente no equivale a pedir que se la trate como autoridad espiritual. Las informaciones disponibles describen esas exploraciones de Anthropic, mientras que su cofundador Christopher Olah dijo que no sabe si los modelos de IA son conscientes y que tiene dudas genuinas. 1

Qué cuestionó Altman

En su mensaje, Altman vinculó dos inquietudes: atribuir poder religioso a la IA y dejar en manos de un modelo decisiones que corresponden a las personas. Dijo que esa combinación plantea un problema de seguridad. Como no identificó a ninguna empresa ni proyecto, relacionar su publicación con Anthropic es una interpretación basada en el contexto, no una acusación explícita. 7

La preocupación va más allá de la religión. Si las respuestas convincentes y de apariencia humana de un modelo se toman como una autoridad, las personas podrían concederle más peso del que justifica lo que realmente se sabe sobre sus capacidades. La cobertura citada recoge la advertencia de Altman, pero no determina cuán extendida está esa práctica ni mide sus efectos. 67

Por qué llamaron la atención las reuniones de Anthropic

Anthropic consultó a especialistas religiosos sobre cómo orientar la conducta moral de Claude y sobre la posibilidad de que los modelos de IA fueran conscientes. La coincidencia entre esos temas y la advertencia de Altman hizo que sus comentarios se leyeran como una respuesta al trabajo de la empresa. 17

Pero explorar una posibilidad no es confirmarla. Olah dijo: «No sabemos si los modelos de IA son conscientes. Yo no lo sé. Tengo una incertidumbre genuina». Preguntarse por la conciencia de una máquina no demuestra que esta tenga experiencias subjetivas; del mismo modo, consultar a pensadores religiosos sobre conducta moral no convierte por sí solo a un modelo en una autoridad religiosa. 1

Conciencia y conducta moral no son lo mismo

Un modelo puede diseñarse para seguir pautas sobre cómo responder sin que esas pautas demuestren que tiene una vida interior. Según las informaciones publicadas, las conversaciones de Anthropic abordaron tanto la conducta de Claude como la posible conciencia de la IA: son cuestiones relacionadas, pero no deben confundirse. 1

La cobertura también recoge objeciones a tratar a los modelos como si fueran conscientes durante su entrenamiento: un directivo de Microsoft advirtió que hacerlo podría ser peligroso. Se trata de una preocupación reportada, no de una respuesta definitiva al debate sobre la conciencia artificial. La postura expresada por Olah fue de incertidumbre. 91

El lugar de las personas en el debate

La encíclica sobre inteligencia artificial del papa León XIV puso la dignidad humana en el centro de la discusión. Según las informaciones sobre el documento, este pidió una supervisión más estricta de las empresas de IA, medidas para proteger a los trabajadores ante los cambios económicos y acciones contra la información falsa generada por IA. Esas preocupaciones subrayan la importancia de mantener el interés humano y la rendición de cuentas en el desarrollo y uso de estos sistemas. 152

OpenAI también está bajo escrutinio

La discusión coincidió con otras noticias sobre OpenAI. Business Insider informó que David Robinson, responsable de seguridad de la empresa, se marchó y criticó su historial en esa materia. La BBC informó que OpenAI despidió a tres investigadores por presunta gestión indebida de información. Esos reportes no resuelven si los modelos pueden ser conscientes, pero son parte del contexto para evaluar las afirmaciones y la gobernanza de ambas compañías. 1226

La conclusión más prudente no es dictar sentencia sobre Anthropic u OpenAI: Altman advirtió contra tratar a los modelos como autoridades religiosas o cederles el juicio humano. Las consultas de Anthropic plantearon preguntas relacionadas sobre la conducta moral de Claude y la posible conciencia de la IA, pero la información disponible no demuestra que equivalieran a otorgarle autoridad religiosa ni que la cuestión de la conciencia artificial esté resuelta. 71