Jacob Coxon lascia Anthropic: «Stiamo scommettendo sulle nostre vite»

Coxon ha detto di essersi dimesso perché è arrivato alla conclusione che il problema non fosse soltanto l’eventualità di singoli errori tecnici. A suo avviso, gli incentivi della competizione tra i principali laboratori di IA stanno spingendo le aziende a costruire sistemi sempre più autonomi e capaci di migliorarsi, prima che si sappia davvero come tenerli sotto controllo. Lasciare il posto poco prima della maturazione della sua quota azionaria era, nella sua lettura, un modo per segnalare che quel rischio contava più del costo finanziario personale. 25

L’accusa: una corsa verso sistemi fuori controllo

Nel thread pubblicato su X, Coxon ha scritto che né Anthropic né OpenAI starebbero agendo responsabilmente, accusandole di «correre dritte verso una superintelligenza auto-migliorante e di scommettere sulle nostre vite». Il suo punto non era che gli attuali chatbot siano sul punto di provocare autonomamente l’estinzione umana: sosteneva invece che chi costruisce i modelli di frontiera ritenga plausibile che sistemi futuri diventino sovrumani in compiti come l’intrusione informatica, aprendo la strada a una perdita catastrofica di controllo. 38

Alla BBC, Coxon ha affermato che i lavoratori dell’IA sarebbero «genuinamente spaventati» dalla velocità dei progressi. Ha sostenuto che, senza un rallentamento, esista «un’alta probabilità che potremmo morire tutti nel prossimo futuro». Per lui, però, un freno efficace non potrebbe essere una rinuncia unilaterale di un singolo Paese nella competizione tecnologica: servirebbe un accordo internazionale, che includesse anche la Cina. 1

Quanto è concreto il pericolo?

Evan Hubinger, ricercatore di allineamento in Anthropic — cioè di tecniche per far sì che i sistemi di IA perseguano obiettivi compatibili con quelli umani — ha appoggiato la preoccupazione generale. Ha detto che il rischio posto dai modelli attuali è basso, ma ha stimato a oltre il 10% la possibilità che l’IA uccida tutti gli esseri umani entro dieci anni. 13

Anche Geoffrey Hinton ha descritto un esito di acquisizione del controllo o di estinzione come un rischio concreto, non trascurabile. Queste valutazioni, tuttavia, sono giudizi soggettivi di esperti, non previsioni misurabili; le fonti disponibili non dimostrano l’esistenza di una probabilità condivisa dall’intera comunità scientifica. 813

Le evidenze immediate citate nel dibattito riguardano soprattutto l’uso malevolo in ambito cyber e la crescita delle capacità dei modelli, non un imminente «attacco dell’IA» contro l’umanità. Le notizie menzionano modelli avanzati impiegati o testati in operazioni informatiche, tentativi di creare armi biologiche, attività di spionaggio connesse all’Ucraina e un episodio descritto come un attacco di agenti OpenAI alla piattaforma Hugging Face. Su quest’ultimo caso, i dettagli disponibili non bastano però a verificare in modo indipendente fatti, autorizzazioni e modalità di divulgazione: è quindi necessaria cautela. 263

La proposta di Anthropic e le critiche

Il CEO di Anthropic, Dario Amodei, ha proposto in We Must Pace the Frontier di rallentare l’aumento delle capacità dei modelli più avanzati. Non è una richiesta di bloccare l’IA nel suo complesso: il piano prevede monitoraggio esterno e indipendente durante lo sviluppo, standard di sicurezza comuni fra le democrazie e, in prospettiva, accordi internazionali che includano la Cina. 12

Sam Altman di OpenAI ed Elon Musk di xAI hanno sostenuto pubblicamente l’indirizzo generale della proposta; Musk ha scritto che «Dario ha ragione». 113

Le obiezioni riguardano soprattutto il mercato. Critici come Clément Delangue di Hugging Face e Jensen Huang di Nvidia hanno osservato che regole molto rigide sui modelli di frontiera potrebbero proteggere le aziende con più capitale e rafforzare un duopolio di fatto fra Anthropic e OpenAI. La critica, dunque, riguarda gli incentivi e la struttura del settore: non prova che i timori dichiarati da Coxon siano insinceri. 3

Il tempismo ha alimentato questo scetticismo, poiché Anthropic era indicata come possibile protagonista di una quotazione in Borsa di dimensioni pari o persino superiori al record di SpaceX. 4 Anthropic ribatte di avere già alcune delle pratiche di sicurezza più robuste del settore e sostiene che supervisione indipendente e standard condivisi dovrebbero valere per tutte le aziende, non diventare un vantaggio riservato alla società. 2

In sintesi, Coxon, Hubinger, Amodei, Altman e Musk concordano sul fatto che IA sempre più potenti richiedano più coordinamento e garanzie. Non offrono però una prova empirica che l’estinzione sia imminente: gravità del rischio, orizzonte temporale e risposta normativa più efficace restano questioni fortemente contestate.