Anthropic y el Vaticano se alinean en IA: por qué es urgente una pausa global en el desarrollo fronterizo

Las principales empresas de inteligencia artificial del mundo compiten por construir sistemas cada vez más potentes, pero una alianza poco común entre un laboratorio líder de IA y la Iglesia Católica pide ahora una desaceleración deliberada. El 4 de junio de 2026, Anthropic —la empresa creadora del asistente Claude— publicó un informe titulado "When AI builds itself" (Cuando la IA se construye a sí misma), proponiendo una pausa global coordinada o una desaceleración significativa del desarrollo de la IA fronteriza . La advertencia se centra en un escenario llamado automejora recursiva, en el que un sistema de IA se vuelve lo suficientemente bueno como para diseñar, construir y entrenar de forma autónoma a sus propios sucesores, escapando potencialmente a la supervisión humana .

Apenas diez días antes, el 25 de mayo de 2026, el Papa Leo XIV publicó su primera encíclica, Magnifica Humanitas ("Humanidad Magnífica"), el primer documento de enseñanza papal jamás dedicado por completo a la inteligencia artificial . Aunque las dos instituciones provienen de mundos muy diferentes —una arraigada en la tecnología y la investigación en seguridad, la otra en la teología y la filosofía moral— su mensaje central es sorprendentemente similar: la IA fronteriza avanza más rápido de lo que la gobernanza y la ética pueden adaptarse, y se necesita una pausa para proteger a la humanidad .

La advertencia de Anthropic: el riesgo de la automejora recursiva

El informe de Anthropic, escrito por los investigadores Marina Favaro y Jack Clark, presenta una imagen cruda de la rapidez con la que se están acelerando las capacidades de la IA. La empresa informó que, a mayo de 2026, Claude escribió más del 80% del código fusionado en el repositorio de Anthropic, y que el ingeniero típico ahora fusiona aproximadamente ocho veces más código por día que en 2024 . Los autores advierten que esta trayectoria se dirige hacia la automejora recursiva, un proceso en el que los sistemas de IA diseñan, construyen y entrenan de forma autónoma a sus propios sucesores, sin que los humanos impulsen cada paso .

La empresa dijo que aún no se ha llegado a ese punto y que el resultado no es inevitable, pero añadió una advertencia aleccionadora: "Podría llegar antes de lo que la mayoría de las instituciones están preparadas" .

Las preocupaciones centrales

• Pérdida de la supervisión humana. La principal preocupación de Anthropic es que el progreso de la IA puede superar los marcos de seguridad y gobernanza existentes, convirtiendo la supervisión humana en la principal limitación del progreso tecnológico . La empresa advirtió que los humanos corren el riesgo de perder el control por completo si el desarrollo continúa sin control .
• Un 'freno' para la industria. Anthropic presentó su llamado a una pausa como la construcción de un "freno" para la industria: una opción para desacelerar o detener temporalmente el desarrollo de la IA fronteriza para permitir que las estructuras sociales y la investigación de alineación se pongan al día . Clark le dijo a BBC Newsnight: "Quieres la opción de poder quitar el pie del acelerador y pisar el freno" .
• Condicional, no unilateral. Anthropic dijo que apoyaría una pausa solo si otros desarrolladores líderes se unieran y se pudiera verificar el cumplimiento de forma independiente . La empresa señaló que si una desaceleración simplemente permite que las entidades menos cautelosas se pongan al día, en última instancia podría comprometer la seguridad de todos .
• Compromiso con los responsables políticos. Mientras tanto, la empresa anunció planes para reunir a los responsables políticos para abordar los peligros de la IA avanzada .

La Magnifica Humanitas del Vaticano: un marco moral para la IA

Publicada el 25 de mayo de 2026, Magnifica Humanitas tiene aproximadamente 43.000 palabras y se centra en "salvaguardar a la persona humana en la era de la inteligencia artificial" . El documento actualiza explícitamente la encíclica Rerum Novarum de Leo XIII de 1891 —que abordaba el trabajo en la era industrial— y aplica su lógica a las plataformas digitales, los algoritmos, la automatización y la concentración de datos .

Puntos clave de alineación con la advertencia de Anthropic

• Llamado a una regulación sólida. El Papa instó a una supervisión estricta de la IA y advirtió que las grandes tecnológicas y sus líderes podrían acumular poder que abusarían en beneficio propio . El Papa Leo argumentó que los proveedores de IA deben considerar la ética de sus acciones, declarando: "Para que la IA respete la dignidad humana y sirva verdaderamente al bien común, necesita una regulación fuerte" .
• Advertencia contra la autonomía sin control. La encíclica advirtió a las empresas de IA contra la construcción de "una nueva Torre de Babel" —un paralelo moral a la preocupación de Anthropic sobre los sistemas que escapan al control humano . El documento compara un futuro de IA que excluye a Dios con la historia bíblica, advirtiendo contra la arrogancia humana .
• La dignidad humana como estándar. Magnifica Humanitas argumenta que la IA debe servir al bien común y al florecimiento humano, no impulsarse únicamente por la aceleración competitiva . La frase central de la encíclica dice: "La inteligencia artificial debe ser ahora desarmada, liberada de los marcos que la transforman en un instrumento de control, exclusión y destrucción" .
• Llamado a un ritmo más lento. El Papa Leo escribió que pedir prudencia, evaluación rigurosa e incluso, a veces, un ritmo más lento en la adopción de la IA no significa oponerse al progreso; más bien, es "un ejercicio de cuidado responsable de la familia humana" .

Colaboración directa entre Anthropic y el Vaticano

La alineación entre las dos instituciones va más allá de las advertencias paralelas. En una muestra poco común de cooperación institucional, el cofundador de Anthropic, Chris Olah, habló en la presentación de Magnifica Humanitas en el Vaticano el 25 de mayo de 2026, destacando una relación única entre un laboratorio de IA y la Santa Sede . La aparición señaló una alianza poco común, ya que ambas partes pidieron un escrutinio moral más fuerte de la inteligencia artificial .

Ya existían conexiones entre ambas partes. Anthropic había consultado previamente a pensadores católicos mientras desarrollaba la "Constitución Claude", el marco ético de 23.000 palabras que guía sus modelos de IA . El padre Brendan McGuire, sacerdote y ex ejecutivo de Silicon Valley, ayudó a dar forma a esa constitución y señaló que Magnifica Humanitas ha abierto las puertas a conversaciones más profundas entre la Iglesia y la industria tecnológica .

Menos de dos semanas después de la publicación de la encíclica, expertos católicos en IA elogiaron públicamente el llamado de pausa de Anthropic, señalando que "hacía eco de las recientes preocupaciones del Papa Leo XIV" y elogiando a la empresa por verificar los valores frente al desarrollo rápido . Los teólogos morales católicos también habían presentado previamente un escrito de amigo del tribunal en apoyo de Anthropic en una disputa con el Pentágono sobre la negativa de la empresa a permitir que sus sistemas de IA se utilizaran para vigilancia masiva o armas autónomas .

Una tesis compartida y fortalezas complementarias

Tanto Anthropic como el Vaticano convergen en una tesis central: el desarrollo de la IA fronteriza se está acelerando más rápido de lo que la gobernanza y la ética pueden adaptarse, y se necesita una pausa o desaceleración deliberada para preservar la supervisión humana, la dignidad y el bien común. La contribución de la Iglesia añade un marco moral y teológico sólido —arraigado en la dignidad humana, el bien común y la protección de los vulnerables— que complementa el razonamiento técnico y de seguridad de Anthropic .

Como señaló un observador, ambas instituciones argumentan que "la sociedad puede tener dificultades para mantener el ritmo de los avances tecnológicos rápidos" y que una desaceleración es "probablemente algo bueno", siempre que esté coordinada, sea verificable y no sea simplemente una herramienta para que competidores menos cautelosos ganen terreno .