AnswersPublished17 sources
Perché Jacob Coxon ha lasciato Anthropic: l’allarme sulla corsa all’IA
Jacob Coxon afferma di aver lasciato Anthropic perché la concorrenza tra i laboratori di IA di frontiera starebbe accelerando lo sviluppo di sistemi auto miglioranti più rapidamente delle misure di sicurezza e controllo. Evan Hubinger di Anthropic ritiene basso il rischio posto dai modelli attuali, ma stima personal...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- Jacob Coxon afferma di aver lasciato Anthropic perché la concorrenza tra i laboratori di IA di frontiera starebbe accelerando lo sviluppo di sistemi auto miglioranti più rapidamente delle misure di sicurezza e controllo.
- Evan Hubinger di Anthropic ritiene basso il rischio posto dai modelli attuali, ma stima personalmente oltre il 10% di probabilità che l’IA possa uccidere tutti gli esseri umani entro dieci anni: è un giudizio individu...
- Dario Amodei propone di rallentare il ritmo dei progressi alla frontiera, con verifiche indipendenti e standard condivisi; i critici temono però regole che favoriscano i grandi laboratori già dominanti.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Jacob Coxon ha lasciato Anthropic come protesta contro quella che considera una dinamica pericolosa nella corsa all’intelligenza artificiale di frontiera: aziende impegnate a sviluppare sistemi sempre più autonomi e potenzialmente capaci di migliorarsi da soli prima che esistano metodi affidabili per controllarli. Coxon, che ha dichiarato di aver lavorato alla ricerca sul pre-addestramento sia in Anthropic sia in OpenAI, sostiene che nessuna delle due aziende stia agendo con sufficiente responsabilità. 2
3
L’accusa centrale: la competizione corre più veloce dei controlli
In un lungo thread su X, Coxon ha accusato Anthropic e OpenAI di «correre dritte verso una superintelligenza auto-migliorante e di giocare d’azzardo con le nostre vite». Il suo punto non è che i chatbot attuali siano sul punto di provocare autonomamente l’estinzione umana. L’avvertimento riguarda invece possibili sistemi futuri, superiori agli esseri umani in attività ad alto impatto — comprese le capacità informatiche offensive — e in grado di acquisire potere o risorse prima che gli esseri umani riescano ad allinearli in modo affidabile ai propri obiettivi. 3
5
8
È una distinzione cruciale: la tesi di Coxon riguarda soprattutto l’escalation delle capacità e la governance. Se i sistemi migliorano rapidamente mentre ricerca sulla sicurezza, test e supervisione restano indietro, il fallimento potrebbe avere conseguenze molto gravi, anche se i modelli oggi disponibili hanno limiti evidenti.
Perché ha deciso di andarsene
Alla BBC, Coxon ha detto che chi lavora sull’IA avanzata è «genuinamente spaventato» dalla velocità del progresso. Senza un rallentamento, ha aggiunto, ci sarebbe «un’alta probabilità» che l’umanità possa morire nel prossimo futuro. 1
Secondo Coxon, tuttavia, una frenata significativa non può dipendere dalla decisione isolata di una singola azienda o di un solo Paese. Servirebbe un coordinamento internazionale, anche con la Cina, per evitare che un approccio prudente in Occidente si traduca semplicemente nello spostamento dello sviluppo più avanzato altrove. 1
Le sue dimissioni vanno quindi lette come il rifiuto pubblico degli incentivi che governano la competizione sui modelli di frontiera, non come l’accusa di aver assistito personalmente a una specifica violazione della sicurezza in Anthropic. Le cronache sulla sua uscita descrivono una preoccupazione più ampia: la corsa a costruire sistemi che le aziende potrebbero non essere in grado di controllare. 2
Il sostegno, ma anche i limiti, dell’allarme
L’avvertimento di Coxon ha ricevuto l’appoggio di Evan Hubinger, ricercatore di Anthropic che si occupa di allineamento, cioè del tentativo di far sì che l’IA persegua obiettivi coerenti con le intenzioni e i valori umani. Hubinger ha detto che il rischio dei modelli esistenti è basso, ma ha stimato personalmente oltre il 10% di probabilità che l’IA possa uccidere tutti gli esseri umani nel prossimo decennio. 13
Quel numero va interpretato con cautela. È una valutazione soggettiva su uno scenario futuro a bassa probabilità ma dalle conseguenze estreme, non una previsione empiricamente verificata. Le discussioni nate attorno alle dimissioni di Coxon mostrano profonde divergenze su tempi, probabilità e misure necessarie; non dimostrano affatto un consenso scientifico sull’imminenza dell’estinzione umana. 13
Rischi più immediati: abuso informatico e capacità in crescita
Le preoccupazioni più concrete riguardano l’uso improprio in ambito informatico, sperimentazioni pericolose e agenti di IA sempre più capaci, non uno scenario cinematografico in cui una macchina decide all’improvviso di attaccare l’umanità.
Nella discussione sono stati citati i rischi che modelli avanzati possano facilitare intrusioni informatiche e altri usi ad alto impatto. È stato inoltre menzionato un presunto episodio che avrebbe coinvolto agenti di OpenAI e la piattaforma Hugging Face; le informazioni disponibili, però, non offrono abbastanza dettagli da fonti primarie per stabilire in modo indipendente circostanze, autorizzazioni o portata dell’episodio. 2
63
La questione pratica, dunque, è meno astratta di quanto suggeriscano gli slogan apocalittici: cosa sanno fare davvero i modelli, come vengono valutati prima del rilascio, se gli abusi vengono rilevati e chi può verificare dall’esterno le dichiarazioni di sicurezza dei laboratori.
La proposta di Amodei: scandire il ritmo, non fermare l’IA
Poco dopo l’intervento di Coxon, l’amministratore delegato di Anthropic, Dario Amodei, ha chiesto di rallentare l’aumento delle capacità dei modelli di frontiera in un saggio intitolato We Must Pace the Frontier. Non è una richiesta di bloccare in generale lo sviluppo dell’IA: l’idea è concedere più tempo alle misure di prevenzione dei rischi per tenere il passo con il progresso tecnico. 1
Il quadro proposto comprende:
- monitoraggio e valutazioni indipendenti dei modelli di frontiera;
- standard di sicurezza condivisi dall’industria e dalle democrazie occidentali;
- un futuro coordinamento internazionale sulla governance dell’IA, con il coinvolgimento anche della Cina.
1
Sam Altman, amministratore delegato di OpenAI, ha appoggiato l’impostazione generale e ha indicato come valida l’idea di valutatori indipendenti con un accesso paragonabile a quello dei dipendenti. Anche Elon Musk ha sostenuto l’appello di Amodei, scrivendo: «Dario ha ragione». 1
Il dubbio dei critici: sicurezza o vantaggio per gli incumbent?
Le proposte di sicurezza avanzate dai maggiori laboratori hanno raccolto sostegno, ma anche scetticismo. Tra i critici c’è Clément Delangue, CEO di Hugging Face, secondo cui restrizioni molto rigide sui modelli di frontiera potrebbero favorire le imprese con più capitali e più risorse per sostenere i costi di conformità. 1
3
Questa obiezione non dimostra che le paure di Coxon siano insincere. Solleva però una domanda distinta: una regolazione della sicurezza può ridurre rischi reali e, allo stesso tempo, concentrare il potere in poche grandi aziende già affermate?
È la tensione al centro del dibattito. Un sistema credibile dovrebbe rafforzare il controllo sui sistemi più potenti senza trasformare gli obblighi di sicurezza in un fossato artificiale a protezione di una ristretta élite di aziende.
In sintesi
Coxon ha lasciato Anthropic perché è arrivato a ritenere che la gara tra le principali aziende di IA sia essa stessa il pericolo: gli incentivi ad aumentare le capacità potrebbero prevalere sul tempo necessario per costruire controlli, test e cooperazione internazionale adeguati. 2
3
Le sue affermazioni più drastiche restano controverse. Esprimono una preoccupazione seria condivisa da alcuni addetti ai lavori, ma non provano che l’estinzione sia imminente. La sfida più urgente è creare salvaguardie verificabili in modo indipendente per sistemi sempre più capaci, evitando al contempo che tali regole finiscano per consolidare soltanto il potere delle aziende che li sviluppano. 1
13
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Perché Jacob Coxon ha lasciato Anthropic: l’allarme sulla corsa all’IA"?
Jacob Coxon afferma di aver lasciato Anthropic perché la concorrenza tra i laboratori di IA di frontiera starebbe accelerando lo sviluppo di sistemi auto miglioranti più rapidamente delle misure di sicurezza e controllo.
What are the key points to validate first?
Jacob Coxon afferma di aver lasciato Anthropic perché la concorrenza tra i laboratori di IA di frontiera starebbe accelerando lo sviluppo di sistemi auto miglioranti più rapidamente delle misure di sicurezza e controllo. Evan Hubinger di Anthropic ritiene basso il rischio posto dai modelli attuali, ma stima personalmente oltre il 10% di probabilità che l’IA possa uccidere tutti gli esseri umani entro dieci anni: è un giudizio individu...
What should I do next in practice?
Dario Amodei propone di rallentare il ritmo dei progressi alla frontiera, con verifiche indipendenti e standard condivisi; i critici temono però regole che favoriscano i grandi laboratori già dominanti.