León XIV pide que la inteligencia artificial nunca sustituya la responsabilidad humana

La advertencia del papa León XIV sobre la inteligencia artificial no es una condena de la tecnología, sino una pregunta sobre quién la controla y qué ocurre cuando la responsabilidad humana se delega en las máquinas. En sus intervenciones ante la Red Internacional de Legisladores Católicos, el 21 de agosto, y el Instituto Internacional de Ciencias Administrativas, el 28 de agosto, pidió que la IA permanezca al servicio del bien común: guiada por la inteligencia humana, la conciencia y la ley, y no por la velocidad, el beneficio económico o sistemas opacos.

Ambos discursos desarrollan el principio central de su encíclica Magnifica Humanitas: el progreso tecnológico debe evaluarse según su capacidad para proteger la dignidad humana, la justicia, la paz y la verdadera autonomía de las personas. 16

El riesgo de que la humanidad sea víctima de sus propios inventos

Ante miembros del Instituto Internacional de Ciencias Administrativas, León XIV advirtió que el rápido desarrollo de la IA plantea la posibilidad de que la humanidad llegue a “convertirse en víctima” de sus propias creaciones. En particular, alertó contra la idea de confiar a las máquinas decisiones relacionadas con la vida humana.

Su respuesta no fue abandonar la tecnología digital, sino humanizarla. Instó a los investigadores y responsables de la administración pública a encontrar formas de hacer que los sistemas digitales estén al servicio de la vida y la paz, manteniendo a las personas —y no a los procesos automatizados— en el centro de las decisiones públicas.

Esto establece un límite claro para la automatización: la IA puede ayudar a gestionar servicios y procedimientos, pero no debería borrar el juicio humano, la responsabilidad ni la rendición de cuentas moral cuando están en juego los derechos, el bienestar o la dignidad de las personas.

El poder de la IA se concentra en pocas manos

En su discurso del 21 de agosto ante la Red Internacional de Legisladores Católicos, el papa puso el foco en la responsabilidad política. El Vaticano presentó el encuentro bajo el lema “Dignidad humana e inteligencia artificial: desafíos, oportunidades y control”, una formulación que sitúa la gobernanza de la IA entre las grandes cuestiones de nuestro tiempo.

El problema, según su advertencia, no se limita a que algunos sistemas puedan equivocarse. También preocupa que la tecnología avanzada y la capacidad de decidir cómo se utiliza queden concentradas en un pequeño grupo de grandes actores económicos y tecnológicos. León XIV señaló que esa concentración puede hacer que los países más pobres dependan cada vez más de los países ricos y agravar las desigualdades existentes.

También alertó de que la innovación podría convertirse en un vehículo de “colonialismo ideológico o económico”. Así, la gobernanza de la IA deja de ser solo un asunto regulatorio interno y pasa a convertirse en una cuestión internacional.

Cuando los algoritmos ejercen una dominación silenciosa

León XIV describió otro riesgo: los algoritmos y las plataformas pueden ejercer poder sin parecer, a primera vista, estructuras de gobierno. En su análisis, los algoritmos pueden decidir quién es visible y quién permanece invisible, mientras las plataformas digitales moldean el debate público sin suficiente rendición de cuentas. Los sistemas automatizados también pueden subordinar la dignidad de los trabajadores a la lógica de la optimización.

La preocupación va más allá del sesgo técnico. Se refiere a quién establece las reglas de visibilidad, participación y oportunidades, y a si las personas afectadas tienen una vía real para cuestionar esas decisiones. Cuando sistemas privados influyen en la conversación pública o en el acceso al empleo sin transparencia, el poder social puede alejarse de las instituciones democráticas y del escrutinio público.

Por qué el papa puso a la familia en el centro

León XIV definió a la familia como la “primera escuela de humanidad” y pidió a los legisladores que impidan que la IA debilite su papel.

La idea es que la formación humana comienza en relaciones que enseñan confianza, responsabilidad, generosidad, diálogo y preocupación por los demás. Esas cualidades no equivalen a la velocidad ni a la capacidad de cálculo de un sistema de IA. Magnifica Humanitas también advierte contra la confusión entre el rendimiento de una máquina y la inteligencia humana: los sistemas pueden imitar ciertas funciones de la inteligencia y superar a las personas en rapidez y capacidad computacional, pero no poseen experiencia humana ni corporeidad. 16

Para León XIV, proteger la vida familiar forma parte de la política sobre inteligencia artificial. La pregunta no es únicamente si un sistema resulta eficiente, sino si su uso fortalece las relaciones y las instituciones en las que las personas aprenden libertad, responsabilidad y solidaridad.

Las garantías que pidió a los legisladores

Las recomendaciones del papa apuntan a un marco de gobernanza de la IA centrado en las personas:

• Proteger los derechos y las libertades fundamentales. Las leyes deben garantizar que el progreso tecnológico no se consiga a costa de la dignidad humana.
• Preservar la privacidad. Los usuarios deben estar protegidos frente a la explotación y los usos inadecuados de sus datos personales.
• Exigir transparencia. Las personas y las instituciones necesitan saber cómo se utilizan las nuevas tecnologías y cómo se toman las decisiones de mayor impacto.
• Fortalecer las instituciones democráticas. Los sistemas digitales deben reforzar, y no eludir, una administración pública responsable y sujeta a control.
• Mantener la responsabilidad en manos humanas. Las decisiones que afectan a la vida y la dignidad de las personas no deben entregarse a las máquinas sin un control humano significativo.
• Evitar la dominación y la concentración excesiva. La regulación debe afrontar los riesgos de que la IA avanzada quede bajo el control de un grupo reducido de actores poderosos.

Estas medidas reflejan el argumento más amplio de la encíclica: la tecnología no es socialmente neutral. Puede favorecer la participación y la justicia, pero también intensificar la desigualdad, el control y la exclusión.

Cómo amplían sus discursos el mensaje de Magnifica Humanitas

Publicada en mayo de 2026, Magnifica Humanitas está dedicada a proteger a la persona en la era de la inteligencia artificial. Su criterio central es determinar si la tecnología sigue orientada al servicio de la humanidad o si se convierte en un instrumento de dominación, exclusión o guerra. La encíclica pide “desarmar” la IA de esas lógicas destructivas. 51016

Los discursos de agosto traducen ese principio en responsabilidades concretas para dos grupos. Los administradores públicos deben garantizar que los sistemas digitales estén al servicio de la ciudadanía y preserven el juicio humano. Los legisladores deben crear normas que protejan los derechos, la privacidad, la transparencia y la vida democrática. Los investigadores, por su parte, tienen la tarea de identificar maneras prácticas de poner las tecnologías digitales al servicio de la vida y la paz.

En conjunto, el mensaje de León XIV es preventivo. Pide establecer reglas centradas en la persona mientras los sistemas de IA todavía se están desarrollando y desplegando, y no después de que las plataformas opacas, el poder concentrado y las decisiones automatizadas se hayan vuelto demasiado arraigados para ser cuestionados.

El criterio que propone es sencillo: la IA debe ampliar el bien común sin desplazar a los seres humanos responsables de definirlo y defenderlo.