Magnifica Humanitas: A visão radical do Papa Leão XIV sobre IA, escravidão moderna e o fim da guerra justa

Leão XIV abre o texto com um aviso impactante, dizendo que a humanidade enfrenta "uma escolha decisiva: construir uma nova Torre de Babel ou edificar a cidade na qual Deus e a humanidade habitem juntos" . Mas, para além das imagens bíblicas, o documento faz três intervenções concretas e profundamente provocativas: traça uma linha direta entre os sistemas de IA e a escravidão moderna, declara com todas as letras o fim da teoria da guerra justa e mapeia uma cadeia de responsabilidades que começa nas salas de reunião do Vale do Silício e termina nos corredores do poder governamental.

IA como motor da escravidão moderna

Magnifica Humanitas não trata a exploração impulsionada pela IA como uma metáfora ou um risco distante. A encíclica classifica práticas contemporâneas muito concretas como formas reais de escravidão. O documento nomeia a "escravidão digital do trabalho" e a vigilância algorítmica no ambiente profissional, que retiram dos trabalhadores sua autonomia e dignidade, como manifestações de uma desumanização profunda .

Não se trata de um exagero retórico. Ao invocar a linguagem da escravidão, Leão XIV coloca as plataformas de bicos (como aplicativos de entrega e transporte), os armazéns gerenciados por algoritmos e as cadeias de moderação de conteúdo no mesmo patamar moral que a Igreja historicamente reservou para as violações mais graves da pessoa humana. A encíclica descreve essa exploração orientada por dados como uma "visão anti-humana" que deve ser confrontada com "padrões partilhados de justiça social" — um chamado direto por normas obrigatórias, e não apenas por códigos de ética voluntários que as empresas adotam quando convém .

O argumento do Papa se apoia em uma premissa que percorre todo o texto: a IA não é moralmente neutra. Suas escolhas de design codificam valores que ou honram ou degradam a pessoa humana . Um sistema otimizado exclusivamente para a eficiência e o lucro, ele adverte, tratará inevitavelmente os trabalhadores como insumos descartáveis, em vez de portadores de uma dignidade inerente.

O atestado de óbito da teoria da guerra justa

Talvez a seção mais surpreendente de Magnifica Humanitas seja o seu tratamento sobre a guerra. A encíclica não se limita a alertar contra as armas autônomas ou a defender um "controle humano significativo" — posições que declarações anteriores do Vaticano já haviam assumido. Ela vai muito além: declara que todo o arcabouço da teoria da guerra justa foi tornado obsoleto pelas capacidades da inteligência artificial .

"A teoria da 'guerra justa', que foi usada com demasiada frequência para justificar qualquer tipo de guerra, está agora ultrapassada", escreve Leão XIV . O texto convoca uma "revolução moral" que vá além dessa doutrina, insistindo que "não pode haver guerra justa na era da inteligência artificial" .

A justificativa é tanto prática quanto teológica. No campo prático, os sistemas de armas guiadas por IA reduzem o controle humano a um ponto em que os critérios tradicionais para uma guerra justa — como a proporcionalidade, a distinção entre combatentes e civis, e a autoridade legítima — se tornam impossíveis de satisfazer. No campo teológico, a encíclica argumenta que a teoria da guerra justa foi historicamente distorcida para legitimar conflitos que servem ao poder, e não à justiça, e que a IA ameaça acelerar essa distorção para além de qualquer possibilidade de controle.

No lugar do pensamento da guerra justa, Leão XIV defende uma "inovação responsável" e um compromisso proativo com a construção da paz — uma mudança radical que significa parar de tentar administrar as condições para a violência aceitável e passar a prevenir os sistemas que tornam a violência autônoma e inevitável .

A responsabilidade do poder: Big Tech e governos

Ao longo de Magnifica Humanitas, Leão XIV se recusa a tirar o corpo fora ou isentar os arquitetos da IA de sua responsabilidade moral. A encíclica coloca essa responsabilidade diretamente sobre as corporações de "big tech" e os governos, qualificando suas decisões em termos duros e existenciais .

Ele convoca os desenvolvedores de IA e as sociedades que os regulam a implementar "padrões partilhados de justiça social" que garantam que a tecnologia sirva ao bem comum . Isso está muito longe de ser uma sugestão para comitês internos de ética ou diretrizes voluntárias de boas práticas. A linguagem do Papa sugere normas obrigatórias, com poder de força, desenvolvidas e aplicadas para além das fronteiras nacionais, que limitem o que pode ser construído e como pode ser usado.

O pontífice adverte que, sem tais padrões, as decisões tomadas por um punhado de instituições poderosas determinarão se a IA criará "um sistema de castas global" — um mundo onde a capacidade tecnológica concentrará riqueza e poder, enquanto jogará enormes populações na precariedade . Ele diz explicitamente a esses atores que eles devem "escolher a vida ou a morte para a humanidade", uma formulação que não deixa nenhum espaço para uma suposta neutralidade tecnocrática, tão comum nos discursos corporativos .

Um teste para a humanidade, não só para a tecnologia

Magnifica Humanitas não é, de forma alguma, uma rejeição completa da inteligência artificial. A encíclica reconhece que a IA é "uma ferramenta valiosa" com potencial genuíno . Mas seu argumento central é que esse potencial só pode ser realizado se a humanidade primeiro responder a uma questão anterior: que tipo de futuro queremos construir, e quem tem o poder de decidir?

A resposta de Leão XIV é que um futuro construído sem Deus — sem uma âncora transcendente para a dignidade humana, sem limites para o que pode ser otimizado e explorado — inevitavelmente se tornará uma nova Babel, um projeto condenado pela própria arrogância . A encíclica é, acima de tudo, uma exigência para que a tecnologia sirva à humanidade, em vez de remodelá-la à sua imagem e semelhança. E um aviso claro: ignorar essa exigência terá consequências que a Igreja agora considera tão graves quanto quaisquer outras que já tenha enfrentado em seus dois mil anos de história.