L’IA può imparare dalla sicurezza aerea? La proposta di Josephine Teo

Quando si sale su un aereo, non si ripone tutta la fiducia nel costruttore: ci si affida anche a standard, manutenzione, personale formato e controlli. È questa la logica che Josephine Teo, ministra di Singapore per lo Sviluppo digitale e l’Informazione, vorrebbe applicare all’intelligenza artificiale man mano che diventa più potente e diffusa. Il paragone avanzato il 17 settembre 2026 indica una direzione da seguire, non un sistema di regole già compiuto. 31924

La fiducia non dipende da un solo controllo

Teo ha paragonato i produttori di aeromobili agli sviluppatori dei modelli di IA, precisando però che la sicurezza non può fermarsi a loro. Per chi usa o subisce gli effetti di un sistema di IA, la domanda è concreta: chi lo ha testato, chi ne sorveglia l’impiego e quali tutele intervengono se qualcosa non funziona? Nell’impostazione illustrata dalla ministra, protezioni diverse devono operare insieme. 1924

I rischi cambiano a seconda dell’uso. Teo ha richiamato la possibile perdita di controllo e di supervisione umana, oltre ai pregiudizi incorporati nei sistemi. Ha citato le decisioni assistite dall’IA sulle richieste di credito per spiegare perché una persona debba potersi fidare di uno strumento che incide sulla sua vita. Il quadro di test AI Verify è stato aggiornato per affrontare, tra l’altro, fughe di dati sensibili, risposte inventate — le cosiddette allucinazioni — e contenuti dannosi. Nei resoconti delle sue osservazioni di settembre compaiono anche i rischi di attacchi informatici e di uso improprio in ambito biologico: sono scenari da prevenire, non incidenti documentati riconducibili alla sua proposta. 25262739

In altre occasioni Teo ha parlato di immagini dannose generate dall’IA e dell’obbligo per i servizi interessati di rimuoverle dopo aver ricevuto una segnalazione. È un esempio concreto affrontato nelle sue discussioni sulla sicurezza, ma le fonti disponibili non indicano un singolo episodio recente come origine del paragone con l’aviazione. 13

Che cosa sta facendo Singapore

Singapore combina indicazioni di governance e strumenti di verifica. AI Verify offre un quadro e strumenti per incoraggiare test responsabili e trasparenza. Teo ha inoltre annunciato un programma di accreditamento per valutatori terzi indipendenti, pensato per aiutare le organizzazioni a capire a chi affidare l’esame dei propri sistemi. 827

Sul piano tecnico, il Global AI Assurance Pilot ha studiato come verificare l’affidabilità delle applicazioni di IA generativa; le lezioni del progetto hanno contribuito a uno «starter kit» di metodi di test dell’IMDA, l’autorità singaporiana per lo sviluppo dei media e delle tecnologie dell’informazione. Singapore ha anche pubblicato un quadro di governance per l’IA agentica, cioè sistemi capaci di agire con maggiore autonomia, ponendo l’accento sulla gestione dei rischi e sul mantenimento della supervisione umana. 299

Perché non basta ancora

I prodotti di IA attraversano le frontiere: per questo Singapore sostiene metodi di valutazione fondati su evidenze e utilizzabili in sistemi normativi diversi. Secondo Teo, standard riconosciuti a livello internazionale saranno importanti, ma richiederanno tempo. Il paragone con l’aviazione è dunque un obiettivo: costruire e migliorare le garanzie mentre cresce l’adozione dell’IA, senza scambiare gli strumenti attuali per un regime di sicurezza già consolidato. 6730