Perché Londra ha detto no al «kill switch» per l’IA

Il rifiuto del governo britannico di introdurre un «kill switch» d’emergenza per l’intelligenza artificiale non equivale a negare i rischi dei modelli più potenti. Il punto centrale è un altro: un potere valido solo nel Regno Unito sarebbe inevitabilmente parziale. Spegnere l’accesso, un modello o un data center nel Paese non impedirebbe che sistemi analoghi vengano sviluppati, ospitati o sfruttati altrove. 1

Da qui nasce uno scontro politico più netto. I ministri sostengono di avere già strumenti per intervenire in gravi incidenti informatici e dicono di poter passare a regole vincolanti se le garanzie volontarie non bastassero. Per i fautori dei nuovi poteri, invece, la gestione del rischio catastrofico richiede controlli espliciti e applicabili prima che scoppi un’emergenza. 1617

Che cosa avrebbe previsto il «kill switch»

Lord Tim Clement-Jones ha proposto un emendamento al Cyber Security and Resilience Bill — il disegno di legge britannico sulla cybersicurezza e la resilienza — per creare un meccanismo legale di intervento d’emergenza contro IA pericolose. L’idea era quella di un potere di ultima istanza: disattivare un modello IA o fermare le operazioni di un data center nel Regno Unito quando il sistema avesse creato una grave minaccia alla sicurezza o alle attività essenziali. 26

La proposta è significativa perché le norme informatiche esistenti sono rivolte soprattutto alla sicurezza delle reti e dei sistemi informativi. Secondo i critici, non definiscono con chiarezza un quadro specifico per vigilare sugli sviluppatori di modelli di frontiera — cioè i modelli più avanzati — né per rispondere ai rischi generati autonomamente da un modello. 15

La tesi del governo: non si può «spegnere l’IA» da soli

L’obiezione del Cabinet Office, l’ufficio del governo che coordina anche la sicurezza dell’IA, riguarda anzitutto la giurisdizione. Nelle parole dell’esecutivo, il Regno Unito «non può semplicemente spegnere l’IA»: limitare l’accesso sul territorio britannico non impedirebbe che un modello capace venga realizzato o sfruttato in un altro Paese. 1

È anche il limite pratico di un potere nazionale di spegnimento. Può interrompere infrastrutture sottoposte alla giurisdizione britannica, ma non può cancellare i pesi di un modello, fermare servizi remoti all’estero o impedire a soggetti stranieri di sviluppare capacità comparabili. In un incidente locale, un intervento interno potrebbe comunque contribuire al contenimento; da solo, però, non risolve un problema transnazionale.

L’ex ricercatore di OpenAI Daniel Kokotajlo ha espresso un ragionamento molto simile: senza un accordo internazionale, uno stop deciso unilateralmente sarebbe insufficiente. Ha definito questi strumenti preferibili alla loro assenza, ma ha sostenuto che per rallentare o governare lo sviluppo dei modelli di frontiera conterebbero di più la diplomazia e, in particolare, il confronto con gli Stati Uniti. 14

Perché i ministri richiamano i poteri di cybersicurezza già esistenti

L’alternativa del governo non è limitarsi ad attendere l’iniziativa delle aziende. I ministri affermano che il Cyber Security and Resilience Bill offre già una base per intervenire quando reti o sistemi informativi compromessi creano un rischio per la sicurezza nazionale, anche imponendo a un’organizzazione di smettere di usare e isolare un modello IA. 16

Il ministro per l’IA Kanishka Narayan ha inoltre detto che il governo prenderebbe in considerazione regole vincolanti per i modelli avanzati se le salvaguardie volontarie prima del rilascio non fossero più sufficienti a proteggere il pubblico. L’AI Security Institute britannico riceve oggi accesso pre-rilascio, su base volontaria, a modelli di aziende come OpenAI, Anthropic e Google. 17

Il dissenso, in sostanza, è questo:

• Posizione del governo: poteri mirati di cybersicurezza, responsabilità degli sviluppatori, accesso volontario ai modelli e cooperazione internazionale sono più praticabili di un interruttore nazionale.
• Posizione dei critici: l’accesso volontario e i poteri cyber generali non sostituiscono un’autorità prevista dalla legge per imporre test, limitazioni o la sospensione di un rilascio quando il rischio diventa inaccettabile.

Il disegno di legge di Alex Sobel

Un’iniziativa separata del deputato laburista Alex Sobel va oltre i poteri di spegnimento d’emergenza. Secondo quanto riportato sulla sua proposta di AI Security Bill, il testo vieterebbe lo sviluppo, il rilascio e l’uso di una superintelligenza artificiale, in particolare quando tali sistemi non possano essere controllati dagli esseri umani. 23

L’impostazione è preventiva, non solo reattiva. Invece di confidare esclusivamente in uno spegnimento quando un sistema pericoloso è già operativo, il progetto attribuirebbe al governo un ruolo di monitoraggio e controllo dell’intera filiera di sviluppo dell’IA, compreso il livello dei chip. 7

La proposta guarda anche oltre i confini britannici: richiederebbe al governo di cercare un accordo internazionale per impedire lo sviluppo di superintelligenze non controllate. È un riconoscimento del fatto che capacità di calcolo, addestramento dei modelli e distribuzione sono distribuiti tra molte giurisdizioni. 3

Perché il percorso è in salita

Il provvedimento di Sobel è un private member’s bill, cioè un disegno di legge presentato da un singolo parlamentare e non dal governo. In genere, per avanzare necessita dell’appoggio dell’esecutivo; l’opposizione governativa alla proposta collegata sul kill switch lascia intravedere poco spazio, almeno nel breve periodo, per questo tipo di intervento. 21

Più in generale, il Regno Unito continua a fare affidamento soprattutto sul diritto esistente, sulle autorità di settore e su accordi volontari per i modelli di frontiera, anziché su un’unica legge sull’IA con ampi poteri di applicazione prima della messa sul mercato. Narayan ha lasciato aperta la porta a una regolamentazione più forte, ma solo nel caso in cui l’approccio volontario attuale si riveli insufficiente. 17

La domanda politica è quindi cruciale: quante prove di un fallimento servono prima di creare poteri vincolanti? I sostenitori di garanzie previste per legge obiettano che attendere un fallimento evidente può essere pericoloso, se la minaccia ipotizzata è un evento rapido e ad alto impatto.

Un dibattito sul rischio IA sempre più acceso

La proposta sul kill switch è emersa in un contesto di notizie su incidenti di sicurezza e timori che modelli possano aggirare le protezioni o essere usati impropriamente in attività informatiche offensive. Per alcuni parlamentari e sostenitori della sicurezza, questi episodi hanno reso più concreto il rischio di perdere il controllo. 12

Il confronto è alimentato anche da una differenza regolatoria: l’Unione europea ha adottato l’AI Act, mentre il Regno Unito ha privilegiato un approccio più leggero, affidato ai settori e integrato da test volontari pre-rilascio sui sistemi di frontiera. 17

Nessuno dei due approcci risolve da solo il problema del coordinamento internazionale. Un sistema molto capace può essere addestrato, ospitato, copiato o distribuito oltre frontiera. Ma la disputa sul kill switch mette in luce un nodo immediato: se Londra debba dotarsi di poteri legali espliciti per intervenire prima che la cooperazione volontaria o gli strumenti cyber esistenti vengano messi alla prova da una crisi.

La scelta politica reale

La questione non è soltanto se il governo debba avere un pulsante da premere. Riguarda la sequenza e la portata dei controlli:

1. Prevenzione: supervisione di capacità di calcolo, chip, addestramento, test e distribuzione prima del rilascio.
2. Intervento: poteri chiari per isolare o fermare sistemi che creano un rischio acuto per la sicurezza.
3. Coordinamento internazionale: accordi che riducano l’arbitraggio normativo e rendano più efficaci le tutele nazionali.

Il governo ha respinto un kill switch nazionale separato perché lo considera inadeguato di fronte a una minaccia globale. I critici accettano questo limite, ma ne traggono la conclusione opposta: il Regno Unito dovrebbe affiancare poteri nazionali previsti dalla legge alla cooperazione internazionale, non trattare l’una come un sostituto dell’altra. 1316