Anthropic e il Vaticano uniti per l’intelligenza artificiale: “Serve una pausa globale, il rischio è perdere il controllo”

Le aziende leader mondiali dell'intelligenza artificiale sono in corsa per costruire sistemi sempre più potenti, ma un'alleanza inedita tra un importante laboratorio di IA e la Chiesa Cattolica chiede ora un rallentamento deliberato. Il 4 giugno 2026, Anthropic—la società creatrice dell'assistente Claude—ha pubblicato un rapporto intitolato "When AI builds itself" ("Quando l'IA si costruisce da sé"), in cui propone una pausa globale coordinata o un rallentamento significativo dello sviluppo dell'IA di frontiera . L'avvertimento si concentra su uno scenario chiamato miglioramento ricorsivo (recursive self-improvement), in cui un sistema di IA diventa sufficientemente abile da progettare, costruire e addestrare autonomamente i propri successori, potenzialmente sfuggendo al controllo umano .

Solo dieci giorni prima, il 25 maggio 2026, Papa Leone XIV aveva pubblicato la sua prima enciclica, Magnifica Humanitas ("Umanità Magnifica"), il primo documento di insegnamento papale mai interamente dedicato all'intelligenza artificiale . Sebbene le due istituzioni provengano da mondi molto diversi—una radicata nella tecnologia e nella ricerca sulla sicurezza, l'altra nella teologia e nella filosofia morale—il loro messaggio centrale è sorprendentemente simile: l'IA di frontiera sta avanzando più velocemente di quanto la governance e l'etica possano adattarsi, e una pausa è necessaria per proteggere l'umanità .

L'avvertimento di Anthropic: il rischio del miglioramento ricorsivo

Il rapporto di Anthropic, scritto dalle ricercatrici Marina Favaro e Jack Clark, dipinge un quadro chiaro di quanto velocemente stiano accelerando le capacità dell'IA. L'azienda ha riferito che, a partire da maggio 2026, Claude ha scritto oltre l'80% del codice integrato nella codebase di Anthropic, e che l'ingegnere medio oggi integra circa otto volte più codice al giorno rispetto al 2024 . Gli autori avvertono che questa traiettoria sta portando verso il miglioramento ricorsivo, un processo in cui i sistemi di IA progettano, costruiscono e addestrano autonomamente i propri successori, senza che gli umani guidino ogni passaggio .

L'azienda ha dichiarato di non aver ancora raggiunto quel punto e che l'esito non è inevitabile, ma ha aggiunto una precisazione preoccupante: "Potrebbe arrivare prima di quanto la maggior parte delle istituzioni sia preparata" .

Le preoccupazioni principali

• Perdita del controllo umano. La preoccupazione centrale di Anthropic è che il progresso dell'IA possa superare i quadri di sicurezza e governance esistenti, rendendo la supervisione umana il principale vincolo al progresso tecnologico . L'azienda ha avvertito che gli esseri umani rischiano di perdere completamente il controllo se lo sviluppo continua senza freni .
• Un 'pedale del freno' per il settore. Anthropic ha inquadrato il suo appello alla pausa come la costruzione di un "pedale del freno" per l'industria—un'opzione per rallentare o fermare temporaneamente lo sviluppo dell'IA di frontiera per permettere alle strutture sociali e alla ricerca sull'allineamento di tenere il passo . Clark ha detto a BBC Newsnight: "Vuoi avere la possibilità di togliere il piede dall'acceleratore e metterlo sul freno" .
• Condizionata, non unilaterale. Anthropic ha dichiarato che sostenrebbe una pausa solo se altri sviluppatori leader vi aderissero e la conformità potesse essere verificata in modo indipendente . L'azienda ha notato che se un rallentamento permettesse semplicemente agli attori meno cauti di recuperare terreno, potrebbe in ultima analisi compromettere la sicurezza per tutti .
• Coinvolgimento dei policy maker. Nel frattempo, l'azienda ha annunciato l'intenzione di convocare i responsabili politici per affrontare i pericoli dell'IA avanzata .

La 'Magnifica Humanitas' del Vaticano: un quadro morale per l'IA

Pubblicata il 25 maggio 2026, Magnifica Humanitas conta circa 43.000 parole ed è incentrata sulla "salvaguardia della persona umana nell'era dell'intelligenza artificiale" . Il documento aggiorna esplicitamente l'enciclica Rerum Novarum di Leone XIII del 1891—che affrontava il lavoro nell'era industriale—e applica la sua logica alle piattaforme digitali, agli algoritmi, all'automazione e alla concentrazione dei dati .

Punti di allineamento con l'avvertimento di Anthropic

• Richiesta di una regolamentazione solida. Il Papa ha esortato a una supervisione rigorosa dell'IA e ha messo in guardia dal fatto che le Big Tech e i loro leader potrebbero accumulare potere da abusare a scopo di lucro . Papa Leone ha sostenuto che i fornitori di IA devono considerare l'etica delle loro azioni, dichiarando: "Perché l'IA rispetti la dignità umana e serva veramente il bene comune, ha bisogno di una forte regolamentazione" .
• Monito contro l'autonomia incontrollata. L'enciclica mette in guardia le aziende di IA dal costruire "una nuova Torre di Babele"—un parallelo morale con la preoccupazione di Anthropic sui sistemi che sfuggono al controllo umano . Il documento paragona un futuro dell'IA che esclude Dio alla storia biblica, mettendo in guardia contro l'arroganza umana .
• La dignità umana come metro di giudizio. Magnifica Humanitas sostiene che l'IA deve servire il bene comune e la fioritura umana, non essere guidata solo dall'accelerazione competitiva . La frase centrale dell'enciclica recita: "L'intelligenza artificiale ora deve essere disarmata, liberata da schemi che la trasformano in uno strumento di controllo, esclusione e distruzione" .
• Richiesta di un ritmo più lento. Papa Leone ha scritto che chiedere prudenza, valutazione rigorosa e talvolta un ritmo più lento nell'adozione dell'IA non significa opporsi al progresso; è invece "un esercizio di cura responsabile per la famiglia umana" .

Collaborazione diretta tra Anthropic e il Vaticano

L'allineamento tra le due istituzioni va oltre gli avvertimenti paralleli. In una rara dimostrazione di cooperazione istituzionale, il co-fondatore di Anthropic, Chris Olah, ha parlato alla presentazione di Magnifica Humanitas in Vaticano il 25 maggio 2026, evidenziando una relazione unica tra un laboratorio di IA e la Santa Sede . La sua presenza ha segnalato un'alleanza rara, poiché entrambe le parti hanno chiesto un più forte scrutinio morale dell'intelligenza artificiale .

I contatti tra le due parti esistevano già. Anthropic aveva precedentemente consultato pensatori cattolici durante lo sviluppo della "Costituzione di Claude", il quadro etico di 23.000 parole che guida i suoi modelli di IA . Padre Brendan McGuire, un sacerdote ed ex dirigente della Silicon Valley, ha contribuito a dare forma a quella costituzione e ha notato che Magnifica Humanitas ha aperto le porte a conversazioni più profonde tra la Chiesa e l'industria tech .

Meno di due settimane dopo la pubblicazione dell'enciclica, esperti cattolici di IA hanno pubblicamente elogiato l'appello alla pausa di Anthropic, notando che "faceva eco alle recenti preoccupazioni di Papa Leone XIV" e lodando l'azienda per aver confrontato i valori con lo sviluppo rapido . I teologi morali cattolici avevano anche in precedenza depositato una memoria amicus curiae a sostegno di Anthropic in una controversia con il Pentagono riguardo al rifiuto dell'azienda di consentire l'uso dei suoi sistemi di IA per la sorveglianza di massa o armi autonome .

Una tesi condivisa e punti di forza complementari

Sia Anthropic che il Vaticano convergono su una tesi centrale: lo sviluppo dell'IA di frontiera sta accelerando più velocemente di quanto la governance e l'etica possano adattarsi, e una pausa o un rallentamento deliberato è necessario per preservare la sorveglianza umana, la dignità e il bene comune. Il contributo della Chiesa aggiunge un robusto quadro morale e teologico—radicato nella dignità umana, nel bene comune e nella protezione dei vulnerabili—che completa il ragionamento tecnico e orientato alla sicurezza di Anthropic .

Come ha osservato un commentatore, entrambe le istituzioni sostengono che "la società potrebbe faticare a tenere il passo con i rapidi progressi tecnologici" e che un rallentamento è "probabilmente una cosa positiva"—a patto che sia coordinato, verificabile e non sia semplicemente uno strumento per consentire ai concorrenti meno cauti di guadagnare terreno .