El Papa León XIV y el cofundador de Anthropic exigen 'desarmar' la inteligencia artificial en un evento histórico en el Vaticano

Lo que exige la encíclica: 'Desarmar' la IA y rechazar la 'cultura del poder'

Magnifica Humanitas no es una reflexión prudente sobre la tecnología; es un manifiesto radical con exigencias concretas de gobernanza. El documento, firmado el 15 de mayo y presentado con el propio Papa pronunciando el discurso final, esboza una visión de la IA que choca abiertamente con la trayectoria actual de la industria .

1. Desarme e IA 'amigable para el ser humano'
El Papa León XIV hizo un llamamiento directo a "desarmar" la inteligencia artificial y hacerla "amigable para el ser humano", advirtiendo contra "una carrera por algoritmos cada vez más potentes y modelos de lenguaje más grandes" que deshumanizan a las personas . Este lenguaje enmarca el desarrollo desbocado de la IA no como progreso, sino como una forma de carrera armamentística que amenaza la dignidad humana misma.

2. Regulación robusta para el bien común
El Papa insistió en que los desarrolladores de IA trabajen por el bien común y no solo por el lucro, reclamando marcos legales y regulatorios sólidos que rijan la tecnología . La encíclica fue clara: no se puede confiar en que el mercado, por sí solo, guíe el desarrollo de la IA en una dirección que sirva a toda la humanidad.

3. Prohibición de armas autónomas
En una de sus exigencias más concretas, Magnifica Humanitas condenó el uso de la IA en la guerra y pidió la prohibición de los sistemas de armas letales autónomas. El Pontífice afirmó que es moralmente inadmisible confiar decisiones letales e irreversibles a sistemas de IA .

4. Protección de los trabajadores
Haciendo eco de la larga tradición de doctrina social de la Iglesia sobre el trabajo, el documento advirtió que la IA no debe usarse para explotar a los trabajadores o sustituir la mano de obra humana sin transiciones y protecciones justas, señalando las "nuevas formas de esclavitud" que hay detrás de la IA, desde los moderadores de contenido hasta los mineros .

5. Rechazo de la 'cultura del poder'
León XIV denunció la mentalidad tecno-solucionista que trata a la IA como un fin en sí mismo, comparando el intento de construir un futuro con IA que excluya a Dios con la Torre de Babel bíblica . Este marco teológico sitúa el desarrollo irresponsable de la IA como un acto de soberbia. El tercer capítulo, titulado "Tecnología y dominio", desarrolla este argumento y pide una rendición de cuentas clara a lo largo de todo el desarrollo de la IA .

El Vaticano reforzó aún más su compromiso institucional al establecer una nueva comisión sobre IA el 16 de mayo, encargada de coordinar las actividades relacionadas con esta tecnología en todas las instituciones vaticanas y de establecer políticas para el uso de la IA dentro de la Santa Sede .

Las declaraciones de Christopher Olah: Seguridad, humildad y compromiso moral

No se han publicado transcripciones completas de las palabras de Olah durante el panel, pero la cobertura del evento y las presentaciones previas describen las líneas generales de su mensaje . Como orador laico junto a altos cardenales y teólogos, Olah aprovechó esta plataforma histórica para impulsar una visión del desarrollo de la IA alineada con el espíritu de seguridad de Anthropic.

Según se informó, Olah enmarcó la IA como una preocupación moral compartida, argumentando que su desarrollo no es solo un desafío técnico, sino una cuestión de dignidad humana que exige una amplia participación social, incluyendo, explícitamente, la de las tradiciones religiosas . Hizo hincapié en la necesidad de un desarrollo que priorice la seguridad, subrayando que los sistemas de IA deben construirse con salvaguardas sólidas y que la industria debe anteponer el bienestar humano a la competencia descontrolada . En un notable alejamiento de la retórica tecno-utópica, Olah reconoció que los investigadores de IA no tienen todas las respuestas y deben comprometerse seriamente con marcos éticos ajenos al sector tecnológico, señalando la Doctrina Social de la Iglesia como un recurso valioso .

Su presencia fue histórica: fue la primera vez que un alto ejecutivo de IA compartió escenario con un Papa en el lanzamiento de una encíclica papal. El simbolismo no pasó desapercibido para los observadores, quienes señalaron que sugiere que Anthropic ve a la Iglesia como un valioso aliado institucional para promover normas de seguridad en la gobernanza de la IA .

La estrategia detrás del escenario: El acercamiento de Anthropic a las instituciones religiosas

El evento del 25 de mayo no fue una oportunidad fotográfica espontánea; fue la culminación pública de una estrategia deliberada y de larga duración por parte de Anthropic para tender puentes con tradiciones religiosas y de sabiduría.

En un comunicado de prensa del 19 de mayo, Anthropic reveló que había pasado "los últimos meses" organizando diálogos entre sus investigadores y funcionarios del Vaticano, incluidos teólogos y especialistas en ética, para construir un entendimiento compartido sobre los riesgos y las dimensiones morales de la IA . La compañía declaró que su primera ronda de debates involucró a "más de 15 grupos religiosos e interculturales" como parte de un esfuerzo más amplio por fundamentar su desarrollo de IA en tradiciones morales más allá del sector tecnológico .

El patrón general de Anthropic es aún más revelador. Meses antes del evento del Vaticano, la compañía trabajó con un sacerdote católico y otros líderes religiosos para dar forma directa a la "Constitución de Claude", el conjunto de principios rectores que rigen el comportamiento de su IA . El propio Olah inició este acercamiento, buscando ayuda para codificar valores éticos en los sistemas de la empresa. Esto refleja la misión fundacional de Anthropic de construir una IA que sea "útil, honesta e inofensiva" y de realizar investigaciones de seguridad previas al despliegue, valores que resuenan de forma natural con el énfasis del Vaticano en la dignidad humana y la precaución .

La participación de Olah en Roma indica que la empresa ve a la Iglesia como un socio institucional serio en la conversación global sobre la regulación de la IA, un socio que aporta una autoridad moral y un alcance mundial inigualables para cualquier consorcio tecnológico o regulador nacional . La decisión del Vaticano de invitar a Olah a copresentar el evento otorgó a esa estrategia su respaldo más significativo hasta la fecha.

En un mundo donde el desarrollo de la IA se acelera, Magnifica Humanitas y su histórica presentación representan una exigencia clara: la tecnología debe servir, no dominar. Y para Anthropic, estar junto al Papa es una clara señal del lado del debate en el que quiere situarse.