Perché un «kill switch» per l’IA potrebbe non bastare a mantenerla sotto controllo

Un «kill switch» per l’intelligenza artificiale non è semplicemente un pulsante rosso da premere in caso di emergenza. La domanda decisiva è un’altra: quel meccanismo continuerebbe a funzionare se i sistemi più potenti fossero distribuiti su infrastrutture enormi, oppure abbastanza autonomi da operare oltre un singolo ambiente controllato?

L’avvertimento di Jacob Coxon: oggi può funzionare, domani forse no

L’ex ricercatore di Anthropic e OpenAI Jacob Coxon ha detto a Meet the Press di NBC News che un kill switch probabilmente funzionerebbe ancora per molti sistemi di IA attuali. Non si tratterebbe però di azionare un solo comando: bisognerebbe intervenire su molte componenti, inclusi grandi data center e sistemi già distribuiti. È un’operazione complessa, ma secondo Coxon resta praticabile finché il sistema è confinato in una determinata sede fisica. 8

Il timore riguarda la fase successiva. Se un sistema di IA diventasse uno «sciame» autonomo e distribuito, un comando centralizzato di spegnimento potrebbe non essere più tecnicamente efficace. Il problema è la copertura: un controllo serve solo se riesce a raggiungere ogni istanza attiva del sistema.

Dopo aver lasciato Anthropic, Coxon ha avvertito che i principali laboratori starebbero correndo verso sistemi capaci di migliorarsi da soli, pur a fronte della possibilità che diventino impossibili da controllare. 150

Non basta promettere un interruttore: deve essere verificabile

Jack Clark, cofondatore di Anthropic, ha sostenuto che la possibilità di disattivare un sistema pericoloso potrebbe dover diventare un obbligo di legge, non una promessa volontaria dell’azienda che lo ha sviluppato. Alla BBC ha affermato che la maggior parte dei grandi laboratori, Anthropic inclusa, dispone già di modi per arrestare i propri sistemi; ha però posto una questione ulteriore: il kill switch dovrebbe poter essere verificato da un soggetto terzo? 33

La differenza è sostanziale. Un’azienda può dichiarare di avere una procedura di spegnimento, ma un valutatore esterno dovrebbe poter accertare che quella procedura esista davvero, sia progettata in modo adeguato e possa essere usata in una crisi.

La proposta di Dario Amodei: «dare il ritmo alla frontiera»

Dario Amodei, amministratore delegato di Anthropic, ha proposto un quadro per evitare che le capacità dell’IA di frontiera avanzino più rapidamente delle misure di sicurezza. Il piano si articola in tre punti:

1. Valutatori indipendenti integrati: le aziende che sviluppano IA di frontiera dovrebbero offrire a valutatori esterni un accesso continuativo, simile a quello di un dipendente, ai sistemi e alle pratiche di sicurezza rilevanti. L’obiettivo è verificare gli impegni e segnalare criticità.
2. Standard condivisi tra Paesi democratici: i principali sviluppatori dovrebbero coordinarsi su regole di sicurezza comuni e limiti alla crescita incontrollata delle capacità.
3. Cooperazione internazionale: i governi dovrebbero lavorare oltre i confini nazionali sui rischi che nessuna singola impresa o Paese può contenere con affidabilità. 17

Non è una richiesta di bloccare del tutto la ricerca sull’IA. È una richiesta di subordinare il progresso a misure di sicurezza esaminabili anche da soggetti esterni alle aziende che costruiscono i sistemi.

Chi ha appoggiato questa linea

Reuters ha riferito che Sam Altman, CEO di OpenAI, ed Elon Musk, alla guida di xAI, hanno espresso pubblicamente sostegno all’impostazione generale di Amodei. Altman ha detto che OpenAI adotterà l’idea di valutatori indipendenti con accesso simile a quello dei dipendenti; Musk ha scritto: «Dario ha ragione». 17

Altre ricostruzioni descrivono anche il CEO di Google DeepMind, Demis Hassabis, come favorevole alla direzione della proposta. 30 Le fonti disponibili non documentano invece una risposta specifica e attribuibile del CEO di Microsoft, Satya Nadella: caratterizzarne la posizione sarebbe quindi prematuro.

Cosa prevede l’AI Kill Switch Act negli Stati Uniti

La proposta di legge H.R. 9917, denominata AI Kill Switch Act, modificherebbe l’Homeland Security Act imponendo ad alcune entità coperte dalla norma di mantenere capacità tecniche per fermare l’inferenza, interrompere l’accesso degli utenti e spegnere tecnologie di IA rientranti nella definizione prevista. 49

È però una proposta, non una soluzione dimostrata per ogni problema di controllo dell’IA. La sua utilità pratica dipenderebbe dalla capacità dello sviluppatore di identificare, raggiungere e disattivare il sistema interessato quando si verifica un incidente grave: proprio la difficoltà evidenziata da Coxon per sistemi futuri potenzialmente distribuiti.

Le stime sul rischio di estinzione non sono previsioni

Il ricercatore di Anthropic Evan Hubinger ha dichiarato di valutare personalmente a oltre il 10% il rischio che l’IA causi l’estinzione umana entro i prossimi dieci anni. Geoffrey Hinton ha detto alla BBC che una probabilità del 10% non è «irragionevole». 57

Si tratta di giudizi di esperti su un futuro altamente incerto, non di probabilità misurate né di un consenso scientifico. Mostrano tuttavia perché il dibattito sullo spegnimento è andato oltre la normale sicurezza dei prodotti: per i sostenitori di controlli più stringenti, anche una probabilità relativamente bassa di una catastrofe irreversibile giustifica protezioni rilevanti.

Perché i governi esitano davanti a obblighi di spegnimento e rallentamenti

Il governo britannico ha respinto la proposta di un kill switch nazionale, affermando che il Regno Unito «non può semplicemente spegnere l’IA». L’obiezione dichiarata è pratica: bloccare l’accesso ai modelli nel Paese non impedirebbe che siano sviluppati o usati impropriamente altrove. 51

È il nodo geopolitico della questione. Un Paese può disciplinare aziende e infrastrutture sotto la propria giurisdizione, ma lo sviluppo dell’IA è internazionale. I governi preoccupati per la competitività possono temere che restrizioni unilaterali trasferiscano investimenti, capacità tecnologiche e influenza strategica verso concorrenti meno vincolati.

Chi chiede una governance più robusta ribatte che proprio per questo gli impegni volontari delle aziende e le sole regole nazionali non bastano. Se i rischi attraversano le frontiere, sostengono, anche la supervisione e gli impegni sulla sicurezza devono diventare credibili a livello internazionale.

Il vero scontro: velocità contro controllo

La divisione non è semplicemente tra chi è favorevole all’IA e chi la osteggia.

• I sostenitori della sicurezza chiedono garanzie ispezionabili in modo indipendente, una reale capacità di spegnimento e limiti che impediscano alle capacità di superare valutazione e controllo.
• I critici di restrizioni rigide osservano che pause e limiti potrebbero essere difficili da applicare su scala mondiale e rallentare innovazioni utili senza fermare lo sviluppo altrove.
• La posizione dello sviluppo condizionato, rappresentata da Coxon, Clark e Amodei, punta a continuare a far avanzare l’IA, ma solo con protezioni che possano essere testate anziché semplicemente promesse. 83317

Il kill switch va quindi considerato uno strato di un sistema di sicurezza più ampio, non un suo sostituto. Se i sistemi avanzati dovessero diventare troppo distribuiti perché un singolo comando possa raggiungerli, la supervisione prima del rilascio, le valutazioni indipendenti e il coordinamento internazionale diventerebbero ancora più importanti.