Altman avverte: affidare all’IA un’autorità religiosa può mettere a rischio il giudizio umano

Sam Altman si è detto «molto a disagio» all’idea che si attribuisca ai modelli di IA una «forza religiosa» o che si rinunci al giudizio umano in loro favore. Ha definito entrambe le cose «un vero problema di sicurezza». Nel suo post non ha nominato Anthropic, ma la vicinanza con le notizie sui colloqui della società con studiosi di religione ha portato molti a interpretarlo come una critica indiretta. 71

La distinzione è importante: interrogarsi su come dovrebbe comportarsi un modello o sulla possibilità che sia cosciente non equivale a presentarlo come un’autorità spirituale. Le notizie descrivono Anthropic mentre esplora questi temi; il cofondatore Christopher Olah, da parte sua, ha dichiarato di non sapere se i modelli di IA siano coscienti e di essere davvero incerto. 1

L’avvertimento di Altman

Nel suo intervento Altman ha accostato due preoccupazioni: attribuire ai modelli un potere di natura religiosa e affidare loro il giudizio che spetta alle persone. Ha definito questa combinazione un problema di sicurezza. Poiché nel post non ha indicato esplicitamente né un’azienda né un progetto, il collegamento con Anthropic nasce dal contesto delle notizie, non da un’accusa diretta. 7

La questione va oltre la religione. Se le risposte sicure e dal tono umano di un modello vengono prese come fonte autorevole, le persone potrebbero affidargli decisioni che richiedono un livello di comprensione che non è stato dimostrato. Le fonti riportano l’avvertimento di Altman, ma non stabiliscono quanto sia diffuso questo comportamento né ne misurano gli effetti. 67

Perché hanno fatto discutere i colloqui di Anthropic

Anthropic ha consultato studiosi di religione sul modo in cui orientare il comportamento morale di Claude e sulla possibilità che i modelli di IA siano coscienti. La sovrapposizione con i temi sollevati da Altman spiega perché le sue parole siano state lette come una reazione al lavoro dell’azienda. 17

Ma esplorare una possibilità non significa affermare che sia vera. Olah ha dichiarato: «Non sappiamo se i modelli di IA siano coscienti. Io non lo so. Sono davvero incerto». Parlare di coscienza non dimostra che un modello abbia un’esperienza soggettiva; allo stesso modo, consultare esperti di religione sul comportamento morale non conferisce di per sé uno status religioso al modello. 1

Coscienza e comportamento sono questioni distinte

Un modello può essere progettato per seguire indicazioni su come rispondere, senza che queste indicazioni dimostrino che abbia una vita interiore. I colloqui riferiti su Anthropic riguardavano sia il comportamento di Claude sia la possibile coscienza: sono due questioni diverse e non andrebbero confuse. 1

Le notizie riportano anche le obiezioni di un dirigente di Microsoft, che ha definito potenzialmente pericoloso addestrare i modelli come se fossero coscienti. Si tratta di una preoccupazione riferita, non di una risposta definitiva al dibattito sulla coscienza artificiale. La posizione espressa da Olah resta, secondo quanto riportato, l’incertezza. 91

Dignità umana e responsabilità

Nell’enciclica sull’IA, Papa Leone XIV ha posto al centro la dignità umana. Secondo le notizie sul documento, il pontefice ha chiesto una vigilanza più forte sulle aziende del settore, tutele per i lavoratori esposti alle trasformazioni economiche e misure contro i contenuti falsi generati dall’IA. Sono temi che riportano l’attenzione sulla necessità di mantenere al centro le persone e la responsabilità di chi sviluppa e utilizza queste tecnologie. 152

Anche OpenAI è sotto esame

Il dibattito si è svolto mentre OpenAI affrontava altre vicende. Business Insider ha riferito che David Robinson, responsabile della sicurezza, ha lasciato l’azienda criticandone pubblicamente l’approccio alla sicurezza; la BBC ha riportato il licenziamento di tre ricercatori per una presunta gestione impropria di informazioni. Questi episodi non chiariscono se i modelli possano essere coscienti, ma fanno parte del contesto in cui si valutano le dichiarazioni e la governance delle aziende. 1226

La conclusione più prudente non è un verdetto su Anthropic o OpenAI: Altman ha messo in guardia dal trattare i modelli come autorità religiose o dal cedere loro il giudizio umano. I colloqui di Anthropic hanno sollevato questioni correlate sul comportamento morale di Claude e sulla possibile coscienza, ma le notizie disponibili non dimostrano che l’azienda abbia attribuito a Claude un’autorità religiosa, né che la questione della coscienza artificiale sia risolta. 71