Perché Singapore guarda alla sicurezza aerea per rendere affidabile l’IA

Quando si sale su un aereo, non si fa affidamento soltanto su come è stato costruito. Contano anche la manutenzione, la gestione del traffico aereo e degli aeroporti, la preparazione del personale e l’applicazione costante delle procedure. È questo insieme di responsabilità che Josephine Teo, ministra di Singapore per lo Sviluppo digitale e l’Informazione, propone come riferimento per la sicurezza dell’intelligenza artificiale. 79

In un post pubblicato su LinkedIn il 17 settembre, Teo ha sostenuto che la fiducia è necessaria perché le persone si affidino regolarmente a una tecnologia. L’IA potrebbe quindi aver bisogno, in futuro, di un sistema di sicurezza paragonabile a quello dell’aviazione civile. Non ha detto che tale sistema esista già: ricerca, test e misure di tutela devono ancora maturare. 23

Che cosa significa, in pratica, il paragone

Non si tratta di trasferire all’IA le norme pensate per gli aerei. Il punto è che una garanzia offerta da un singolo produttore non basta: occorre chiedersi come un sistema venga valutato prima dell’uso, chi ne controlli il funzionamento quando cambia e quali indicazioni riceva chi lo impiega. Teo ha definito l’approccio dell’aviazione «multilivello» e ha osservato che, per la sicurezza dell’IA, non esiste ancora un manuale già pronto da seguire. 5

Cosa sta facendo Singapore

La scelta indicata da Teo è costruire le tutele mentre l’IA viene adottata, anziché aspettare un quadro di regole pienamente sviluppato. Tra le iniziative già avviate figurano AI Verify, uno strumento per promuovere verifiche responsabili e trasparenza, e il Singapore AI Safety Institute. Teo ha inoltre descritto un programma di accreditamento per valutatori indipendenti, pensato per aiutare le organizzazioni a capire a chi affidare i test dei propri sistemi. Sono passi verso controlli più credibili, non una prova che tutti i rischi siano risolti. 1222

La cooperazione internazionale è un’altra parte del lavoro: Singapore ha ospitato l’International Scientific Exchange on AI Safety, ha contribuito al Singapore Consensus sulle priorità della ricerca globale in materia e partecipa a iniziative di valutazione congiunta. Queste attività favoriscono ricerca e verifiche condivise, ma non costituiscono un’autorità internazionale vincolante sul modello dell’aviazione. 181

Tutele durante l’adozione o sviluppo più lento?

Il dibattito si svolge mentre crescono gli avvertimenti sui rischi dei sistemi più avanzati, tra cui perdita del controllo umano, attacchi informatici e bioterrorismo. Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha chiesto di rallentare il ritmo dei progressi dei modelli più avanzati per dare tempo alle misure di sicurezza e alle verifiche indipendenti di tenere il passo. La sua ipotesi di gravi danni provocati in futuro da agenti IA su internet resta una previsione, non un fatto accertato. 131011

Le due posizioni non coincidono: Teo insiste sul rafforzamento delle tutele mentre aumenta l’uso dell’IA; Amodei propone anche di moderare il ritmo con cui ne crescono le capacità. La domanda comune è se i controlli riusciranno a stare al passo con una tecnologia a cui si chiede alle persone di affidarsi. 1311