Papa Leão XIV e Christopher Olah pedem que IA seja 'desarmada' em evento histórico no Vaticano

O que a Encíclica Exige: 'Desarmar' a IA e Rejeitar a 'Cultura do Poder'

A Magnifica Humanitas não é uma reflexão cautelosa sobre tecnologia; é um manifesto abrangente com demandas concretas de governança. O documento, assinado em 15 de maio e apresentado com o próprio papa fazendo o discurso de encerramento, traça uma visão para a IA que está explicitamente em desacordo com a trajetória atual da indústria .

1. Desarmamento e IA 'Amigável ao Ser Humano'
O Papa Leão XIV pediu diretamente que a IA fosse "desarmada" e tornada "amigável ao ser humano", alertando contra "uma corrida por algoritmos cada vez mais poderosos e conjuntos de dados cada vez maiores, movida pelo desejo de garantir domínio geopolítico ou comercial" . Essa linguagem enquadra o desenvolvimento desenfreado da IA não como progresso, mas como uma forma de corrida armamentista que ameaça a própria dignidade humana.

2. Regulamentação Robusta para o Bem Comum
O papa insistiu que os desenvolvedores de IA trabalhem para o bem comum, em vez de apenas para o lucro, pedindo estruturas legais e regulatórias sólidas para governar a tecnologia . A encíclica foi clara: não se pode confiar apenas no mercado para guiar o desenvolvimento da IA em uma direção que sirva amplamente à humanidade.

3. Proibição de Armas Autônomas
Em uma de suas demandas mais concretas, a Magnifica Humanitas condenou o uso da IA na guerra, pedindo a proibição de sistemas de armas letais autônomas. O papa afirmou ser moralmente inadmissível confiar decisões letais e irreversíveis a sistemas de IA .

4. Proteção aos Trabalhadores
Ecoando a longa tradição de ensino social da Igreja sobre o trabalho, o documento alertou que a IA não deve ser usada para explorar trabalhadores ou substituir o trabalho humano sem transições e proteções justas, apontando para "novas formas de escravidão" por trás da IA, desde moderadores de conteúdo até mineradores .

5. Rejeição à 'Cultura do Poder'
Leão XIV denunciou a mentalidade tecno-solucionista que trata a IA como um fim em si mesma, comparando a tentativa de construir um futuro com IA que exclua Deus à Torre de Babel bíblica . Essa moldura teológica posiciona o desenvolvimento irresponsável da IA como um ato de arrogância. O terceiro capítulo, intitulado "Tecnologia e Dominação", desenvolve esse argumento e pede responsabilização clara em todo o ciclo de desenvolvimento da IA .

O Vaticano fortaleceu ainda mais seu compromisso institucional ao estabelecer uma nova comissão sobre IA em 16 de maio, encarregada de coordenar atividades relacionadas à inteligência artificial em todas as instituições vaticanas e definir políticas para o uso da IA dentro da Santa Sé .

As Observações de Christopher Olah: Segurança, Humildade e Engajamento Moral

Transcrições literais completas das falas de Olah no painel não foram amplamente publicadas, mas a cobertura do evento e as prévias delinearam o principal de sua mensagem . Participando como orador leigo ao lado de cardeais e teólogos de alto escalão, Olah usou a plataforma histórica para promover uma visão de desenvolvimento de IA que se alinha com o ethos de segurança em primeiro lugar da Anthropic.

Olah, conforme relatado, enquadrou a IA como uma preocupação moral compartilhada, argumentando que o desenvolvimento da inteligência artificial não é meramente um desafio técnico, mas uma questão de dignidade humana que exige ampla contribuição social — incluindo, explicitamente, das tradições religiosas . Ele enfatizou a necessidade de um desenvolvimento que priorize a segurança, sublinhando que os sistemas de IA devem ser construídos com salvaguardas robustas e que a indústria deve priorizar o bem-estar humano em vez da competição desenfreada .

Em um afastamento notável da retórica tecno-utópica, Olah reconheceu que os pesquisadores de IA não têm todas as respostas e devem se engajar seriamente com estruturas éticas fora do setor de tecnologia, apontando a doutrina social católica como um recurso valioso .

Sua presença foi histórica: marcou a primeira vez que um grande executivo de IA dividiu o palco com um papa no lançamento de uma encíclica papal. O simbolismo não passou despercebido pelos observadores, que notaram que isso sugere que a Anthropic vê a Igreja como uma valiosa aliada institucional na defesa de normas de segurança na governança da IA .

A Estratégia por Trás do Palco: O Engajamento da Anthropic com Instituições Religiosas

O evento de 25 de maio não foi uma oportunidade de foto espontânea; foi o culminar público de uma estratégia deliberada e de longo prazo da Anthropic para construir pontes com tradições religiosas e de sabedoria.

Em um comunicado à imprensa de 19 de maio, a Anthropic revelou que passou "os últimos meses" organizando diálogos entre seus pesquisadores e autoridades do Vaticano, incluindo teólogos e especialistas em ética, para construir um entendimento compartilhado dos riscos e dimensões morais da IA . A empresa disse que sua primeira rodada de discussões envolveu "mais de 15 grupos religiosos e interculturais" como parte de um esforço mais amplo para fundamentar seu desenvolvimento de IA em tradições morais para além do setor de tecnologia .

O padrão mais amplo da Anthropic é ainda mais revelador. Meses antes do evento no Vaticano, a empresa trabalhou com um padre católico e outros líderes religiosos para moldar diretamente a "Constituição Claude", o conjunto de princípios orientadores que regem o comportamento de sua IA . O próprio Olah iniciou o contato, buscando ajuda para codificar valores éticos nos sistemas da empresa. Isso reflete a missão fundacional da Anthropic de construir uma IA que seja "útil, honesta e inofensiva" — valores que ressoam naturalmente com a ênfase do Vaticano na dignidade humana e na prudência .

A presença de Olah em Roma sinaliza que a empresa vê a Igreja como uma parceira institucional séria na conversa global sobre a regulamentação da IA — uma que traz autoridade moral e um alcance global que nenhum consórcio de tecnologia ou regulador nacional pode igualar . A decisão do Vaticano de convidar Olah para co-apresentar deu a essa estratégia seu endosso mais significativo até agora.

Em um mundo onde o desenvolvimento da IA está se acelerando, a Magnifica Humanitas e seu lançamento histórico representam uma exigência clara: a tecnologia deve servir, e não dominar. E para a Anthropic, estar ao lado do Papa é um sinal claro de que lado desse debate ela quer estar.