I vertici di Anthropic, OpenAI e altre aziende di intelligenza artificiale starebbero valutando non soltanto come affrontare un grave incidente legato all’IA, ma anche cosa potrebbe accadere subito dopo: dalla reazione del pubblico alle decisioni dei politici. A riferirlo è Axios, che indica come scenario più probabile un cyberattacco su vasta scala capace di interrompere servizi finanziari, connessione internet, elettricità o acqua. Si tratta di pianificazione preventiva, non della prova che una catastrofe sia imminente o inevitabile.
1
2
7
Che cosa stanno simulando le aziende
Secondo le ricostruzioni, gli esercizi guardano oltre la risposta tecnica all’attacco e considerano il cosiddetto «giorno dopo»: come potrebbero reagire le aziende, il settore dell’IA e i responsabili politici se la tecnologia fosse associata a danni gravi nel mondo reale. Axios riferisce anche che i dirigenti puntano a informare i membri del Congresso statunitense. Altre ricostruzioni parlano di red teaming su scenari estremi: mettere alla prova le difese simulando il punto di vista di un attaccante.
17
21
38
Le indicazioni sulle tempistiche vanno prese con cautela. Secondo alcune fonti secondarie, alcuni addetti ai lavori ritengono possibile un grave incidente entro sei-dodici mesi. È una previsione attribuita a persone del settore, non una stima verificata né una dichiarazione delle aziende secondo cui una catastrofe sarebbe certa.
3
5 OpenAI afferma che i suoi esercizi di preparazione coprono diversi scenari e che non li considera inevitabili.
6
Perché si parla soprattutto di cyberattacchi
Axios identifica un cyberattacco come l’innesco più probabile e cita possibili interruzioni di servizi bancari, accesso a internet, elettricità e acqua. Le informazioni disponibili, però, non spiegano perché i dirigenti considerino questo scenario più probabile di altri rischi catastrofici: descrivono ciò a cui si preparano, non le ragioni di quella valutazione.
1
2
7
Esistono anche resoconti sull’impiego di strumenti di IA da parte di presunti aggressori. Forbes ha descritto un hacker di lingua cinese che avrebbe usato agenti di IA, compresi strumenti associati a DeepSeek, Kimi e Anthropic, in attacchi contro fino a cento organizzazioni. Separatamente, Axios ha riferito, citando CrowdStrike, che un aggressore avrebbe usato Claude Code per chiedere aiuto a trovare canali in cui vendere dati rubati. Questi resoconti riguardano strumenti usati in una presunta campagna criminale: non dimostrano che i sistemi abbiano deciso autonomamente di attaccare o che gli attacchi abbiano causato le interruzioni di infrastrutture temute dai dirigenti.
17
35
Fiducia pubblica e conseguenze politiche
Axios riferisce che i dirigenti temono che il primo grave danno nel mondo reale attribuito a un’IA non sicura possa accrescere la sfiducia già esistente verso la tecnologia e i suoi leader. Tra le figure citate ci sono Dario Amodei, amministratore delegato di Anthropic, Sam Altman, amministratore delegato di OpenAI, e il presidente Trump, per la sua riluttanza a regolamentare l’IA. È una previsione sulle possibili conseguenze di una crisi, non la prova che una reazione di questo tipo sia già avvenuta.
7
17
Il fatto che si parli di informare il Congresso suggerisce che le aziende stiano considerando anche le decisioni che i legislatori potrebbero prendere dopo un incidente. Ma le notizie disponibili non chiariscono quali leggi le società vorrebbero, quali politiche stiano sostenendo o se il Congresso le adotterebbe.
17
21
Che cosa sappiamo e che cosa resta da chiarire
Anthropic non ha commentato nelle ricostruzioni disponibili, che non indicano il motivo.
30
31 E, anche se le fonti descrivono attività riservate di pianificazione e gli esercizi di preparazione di OpenAI, non mostrano se le misure ipotizzate funzionerebbero durante una vera emergenza.
Restano quindi questioni concrete per i legislatori e per il pubblico: chi potrebbe fermare un sistema di IA durante un incidente? La segnalazione degli incidenti e i test di sicurezza dovrebbero essere obbligatori? Chi risponderebbe dei danni causati da un agente di IA? E come potrebbero verificatori indipendenti accertare che le protezioni dichiarate da un’azienda funzionino davvero?
La conclusione, al di là delle previsioni più allarmanti, è circoscritta: secondo le fonti, alcune delle principali aziende di IA si stanno preparando a un incidente grave e alle sue conseguenze. Le informazioni disponibili non dimostrano che un simile evento sia inevitabile, né che i piani affrontino già i nodi più difficili: controllo, responsabilità e applicazione delle regole.
1
6
7