Sicurezza dell’IA: come costruire regole globali davvero verificabili

Per fidarsi di un sistema di intelligenza artificiale non basta sapere che il suo produttore lo considera sicuro. Occorre poter controllare quali prove sono state fatte, a quale versione si riferiscono e che cosa accade se emergono problemi. La ministra di Singapore Josephine Teo ha richiamato l’esempio dell’aviazione: la fiducia nell’uso quotidiano degli aerei poggia su più livelli di protezione. Con la diffusione dell’IA, sostiene, servono tutele costruite insieme alla sua adozione. 36

La lezione dell’aviazione è procedere per tappe

Le regole del volo internazionale non sono nate tutte insieme. Alle leggi nazionali e agli accordi bilaterali seguì la Convenzione di Parigi del 1919; la Convenzione di Chicago del 1944 pose le basi del quadro successivo e nel 1947 entrò in funzione l’Organizzazione internazionale dell’aviazione civile, nota come ICAO. 313935 Per l’IA, questo percorso suggerisce di partire da accordi praticabili e rafforzarli man mano che si consolidano procedure condivise, non di copiare un regolamento aeronautico.

Un possibile assetto distinguerebbe i compiti. Un organismo internazionale potrebbe elaborare requisiti minimi, accreditare chi svolge le verifiche e confrontare i dati sugli incidenti. Le autorità nazionali conserverebbero il potere di ispezionare, ordinare correzioni, limitare l’impiego di un sistema e sanzionare le violazioni. Un attestato internazionale non sostituirebbe quindi i controlli nei singoli Paesi.

Che cosa significa verificare davvero

Un punteggio pubblicato o un marchio di conformità non bastano. Un valutatore indipendente dovrebbe poter esaminare in condizioni protette il modello, la configurazione con cui viene usato, la documentazione e le registrazioni dei guasti significativi. Metodi e risultati dovrebbero essere descritti abbastanza chiaramente da consentire a un altro soggetto qualificato di contestarli o ripetere le verifiche, senza esporre dati personali, segreti commerciali o informazioni sensibili per la sicurezza.

Per gli impieghi ad alto rischio, chi sviluppa il sistema potrebbe dover presentare un dossier di sicurezza: funzioni previste, prove svolte, misure di protezione dimostrate, rischi residui e piano di risposta agli incidenti. Se le prove non sono sufficienti, l’autorità dovrebbe poter chiedere interventi o restringere l’impiego. L’obiettivo è accertare il rispetto di requisiti definiti, non promettere che un danno sia impossibile.

La verifica dovrebbe continuare dopo il rilascio: monitoraggio durante l’uso, nuovi controlli dopo modifiche sostanziali e procedure per tornare alla versione precedente o ritirare il sistema. Un’eventuale autorizzazione dovrebbe indicare versione e contesto d’uso per cui valgono le prove.

Anche il finanziamento conta. I grandi sviluppatori potrebbero contribuire a un fondo comune, o gestito dall’autorità di controllo, invece di scegliere e controllare direttamente chi li valuta. Indagini indipendenti su incidenti gravi e mancati incidenti dovrebbero servire soprattutto a evitare che si ripetano. Favorire le segnalazioni, però, non significa esonerare chi nasconde informazioni o tiene condotte scorrette.

Il possibile ruolo di Singapore, senza dare la fiducia per scontata

Teo ha proposto di sviluppare le tutele mentre cresce l’adozione dell’IA; le notizie su Singapore indicano nel toolkit AI Verify e nell’AI Safety Institute due basi del lavoro su test e valutazione dell’affidabilità. 13 Il Paese potrebbe ospitare verifiche congiunte o scambi tecnici riservati all’interno di una rete più ampia di laboratori accreditati.

Essere sede di una struttura, però, non la renderebbe automaticamente credibile sia per gli Stati Uniti sia per la Cina. Servirebbero regole di governo trasparenti, accessi sicuri, possibilità di contestare le valutazioni davanti a soggetti indipendenti e la partecipazione effettiva di entrambi. Una rete distribuita eviterebbe inoltre che tutto dipenda da un unico centro.

Partire dai rischi condivisi, non da un’intesa sul rallentamento

Le posizioni politiche e industriali restano lontane. Secondo Reuters, Dario Amodei, Sam Altman ed Elon Musk hanno chiesto un rallentamento coordinato dello sviluppo dell’IA; Mark Zuckerberg ha preferito tutele guidate dal mercato, mentre Jensen Huang ha respinto la necessità di nuove norme. 4748 La Cina ha rifiutato gli appelli a rallentare e Donald Trump ha detto di non aspettarsi passi avanti sulle tutele per l’IA al vertice del 24 settembre con Xi Jinping. 5850 Le cronache dell’incontro segnalavano scarse aspettative di una svolta importante. 49

Non occorre risolvere prima ogni divergenza. Proposte avanzate da esperti di sicurezza statunitensi e cinesi indicano possibili linee rosse per i sistemi nucleari, il controllo umano sui cyberattacchi con conseguenze gravi e un canale diretto per gli incidenti che coinvolgono IA autonome. 20 Da qui si potrebbe cominciare: definizioni comuni degli incidenti gravi, obblighi di notifica, contatti d’emergenza e confronti tecnici reciproci. La partecipazione di Stati Uniti e Cina sarebbe decisiva, ma altri Paesi dovrebbero poter contribuire agli standard e accedere alle capacità di verifica.

Il controllo degli armamenti offre un principio utile: assumere impegni reciproci abbastanza precisi da poter essere verificati. La vigilanza finanziaria ne offre un altro: concentrare gli obblighi più impegnativi dove un guasto può avere gli effetti maggiori. Valutazioni indipendenti, responsabilità dei dirigenti, piani di ripristino e segnalazioni rapide di gravi problemi di sicurezza, fughe di dati, intrusioni informatiche o furti di modelli potrebbero riguardare i sistemi ad alto rischio. Per i servizi a basso rischio delle imprese più piccole si potrebbero prevedere infrastrutture di test condivise e documentazione più semplice; le dimensioni ridotte, da sole, non dovrebbero esentare un sistema pericoloso.

Un trattato e un’istituzione permanente entro il 2030 sarebbero un obiettivo ambizioso, non una previsione. Un primo risultato più concreto sarebbe accordarsi su quali incidenti segnalare, come garantire l’indipendenza dei valutatori e quali tutele verificare reciprocamente — dando poi alle autorità gli strumenti per agire quando le prove non reggono.