Rallentare davvero l’IA: cosa serve e quale ruolo può avere Singapore

Un rallentamento significativo dell’intelligenza artificiale dovrebbe regolare il ritmo dello sviluppo dei sistemi più avanzati, non fermare l’IA in tutta l’economia. Le recenti prese di posizione di importanti dirigenti del settore hanno riportato al centro valutazioni indipendenti e coordinamento. Per trasformare queste proposte in garanzie credibili, però, non bastano impegni volontari: i test devono essere indipendenti, gli esiti devono avere conseguenze sulle decisioni di rilascio e le regole devono essere proporzionate ai rischi.

Singapore dispone già di alcuni strumenti utili: un quadro di governance per l’IA agentica, gli strumenti di test AI Verify e un programma che riconosce i tester indipendenti. La sfida ora è collegare questi strumenti a decisioni chiare e basate su evidenze riguardo ai sistemi che vengono effettivamente messi in uso. 4

Cosa dimostrano — e cosa no — gli appelli a rallentare l’IA

Le proposte recenti riguardano il ritmo di sviluppo dell’IA di frontiera, cioè i sistemi più capaci, per i quali le misure di sicurezza e la supervisione esterna potrebbero non tenere il passo con i progressi tecnologici. Tra le idee riportate figurano l’accesso continuativo di valutatori esterni alle aziende che sviluppano questi sistemi, il coordinamento sugli standard di sicurezza e una cooperazione internazionale più ampia.

Queste proposte segnalano un interesse crescente, non una politica già definita né un accordo vincolante tra le aziende di IA. L’International AI Safety Report osserva che le pratiche di gestione dei rischi sono ancora in evoluzione e che la maggior parte delle iniziative aziendali resta volontaria. La distinzione è importante: l’impegno di un’azienda a testare un modello non costituisce, da solo, una regola applicabile che le imponga di rinviare il rilascio quando permangono rischi gravi.

Rendere il rilascio una decisione legata al rischio

Un approccio pratico potrebbe imporre condizioni più rigorose ai sistemi con maggiori capacità o poteri, evitando al tempo stesso un blocco generalizzato degli usi ordinari dell’IA. Un semplice strumento per redigere testi e un agente autorizzato a compiere azioni con conseguenze rilevanti non dovrebbero essere sottoposti automaticamente agli stessi requisiti. Il quadro di Singapore per l’IA agentica raccomanda già di valutare e circoscrivere i rischi e di prevedere approvazioni umane per le azioni significative o sensibili. 46

Per i modelli di frontiera e gli utilizzi ad alto impatto, i responsabili delle politiche potrebbero sviluppare questo principio attraverso una procedura di rilascio che includa:

• Valutazioni indipendenti prima del rilascio: garantire a valutatori esterni qualificati un accesso sicuro ai sistemi e alle evidenze pertinenti, per esaminare capacità pericolose e possibili usi impropri. L’accesso continuativo dei valutatori è stato proposto nei recenti appelli a regolare il ritmo dello sviluppo di frontiera; non è un requisito universale già in vigore.
• Soglie definite e conseguenze concrete: rendere chiaro quali risultati comportino ulteriori misure di sicurezza, limitazioni all’accesso o un rinvio. Se un sistema non supera una valutazione, dovrebbe seguire una risposta documentata e, quando il rischio lo giustifica, il rilascio dovrebbe essere sospeso: non basta avviare un’altra verifica interna. Si tratta di proposte di governance, non di obblighi previsti dall’attuale quadro di Singapore. 4
• Controlli commisurati all’uso: per gli agenti con autorizzazioni che possono produrre conseguenze rilevanti, valutare accessi circoscritti, approvazione umana nei passaggi decisivi, monitoraggio e responsabilità definite. Il quadro di Singapore sostiene la limitazione dei rischi e una supervisione umana effettiva; i controlli specifici dovrebbero dipendere dal sistema e dal contesto d’uso. 48
• Nuove valutazioni quando il sistema cambia in modo sostanziale: verificare le modifiche rilevanti al modello, agli strumenti disponibili o al contesto di utilizzo, senza considerare un test precedente come garanzia permanente. È una proposta per mantenere attuali le verifiche man mano che il sistema cambia.

Per gli impieghi a basso rischio dovrebbe esserci un percorso più semplice e leggero. Regole proporzionate possono lasciare spazio all’adozione da parte delle imprese, senza trattare il superamento di un test come prova che un sistema sia sicuro in qualsiasi circostanza. L’AI Act dell’UE è un esempio di normativa organizzata in base ai rischi dei diversi usi dell’IA.

Regole pubbliche, test indipendenti

Il coordinamento internazionale potrebbe rendere le valutazioni più confrontabili e ridurre l’incentivo a cercare la supervisione meno rigorosa. I governi possono lavorare a metodi di test condivisi, alla comunicazione degli incidenti e a requisiti minimi per i sistemi a rischio più elevato. I valutatori indipendenti potrebbero poi raccogliere evidenze rispetto a tali criteri. Anche le recenti proposte sul rallentamento invocano un coordinamento tra aziende e oltre i confini nazionali.

La ripartizione delle responsabilità è fondamentale. Spetta alle autorità pubbliche fissare soglie vincolanti e stabilire le conseguenze del loro superamento. Le aziende possono mettere a disposizione competenze tecniche, ma non dovrebbero essere le sole a giudicare se i propri sistemi rispettano i requisiti. I tester indipendenti dovrebbero adottare metodi trasparenti e dichiarare eventuali conflitti di interesse. Sono principi per progettare un sistema di supervisione, non caratteristiche già definite dagli appelli del settore riportati dalle fonti.

Su cosa può fare leva Singapore

Il Model AI Governance Framework for Agentic AI di Singapore fornisce indicazioni alle organizzazioni che adottano agenti, tra cui la valutazione dei rischi, la responsabilità umana e l’adozione di controlli. È una guida per un impiego responsabile, non, di per sé, una condizione vincolante per autorizzare il rilascio. 468

AI Verify offre strumenti di test, mentre l’AI Tester Accreditation Programme riconosce società di valutazione indipendenti dotate di competenze tecniche e preparazione operativa. Insieme, queste iniziative potrebbero favorire valutazioni più coerenti nei settori delle imprese e della finanza. Singapore potrebbe inoltre promuovere profili di garanzia condivisi e clausole contrattuali che chiariscano cosa devono dimostrare fornitori dei modelli, integratori, soggetti che li utilizzano e tester. Sono possibili sviluppi futuri, non politiche già stabilite dai quadri citati.

Un obiettivo utile sarebbe il riconoscimento transfrontaliero delle evidenze e dei metodi di test, non l’affermazione che un singolo certificato nazionale garantisca la sicurezza di ogni sistema e di ogni uso. Il quadro e gli strumenti di test possono rendere le evidenze più strutturate; spetta comunque alle autorità e alle organizzazioni stabilire se siano pertinenti al sistema impiegato e ai rischi del suo utilizzo.

Valutare insieme sicurezza dell’IA, affidabilità del software e cybersicurezza

Esaminare le risposte di un modello è solo una parte della valutazione di un agente di IA. Un’analisi completa dovrebbe considerare anche il software che lo circonda e la sicurezza degli strumenti e delle autorizzazioni a cui può accedere. Sono questioni collegate, ma distinte: quali comportamenti dannosi può produrre l’IA; come si comporta l’applicazione nel suo insieme quando qualcosa cambia o non funziona; e se un attaccante può compromettere o dirottare il sistema.

Integrare queste verifiche è un’estensione raccomandata delle pratiche di garanzia, non l’affermazione che ogni strumento esistente copra già tutti e tre gli ambiti. AI Verify Toolkit descrive test tecnici per i sistemi di apprendimento automatico tradizionali, tra cui verifiche di equità, spiegabilità e robustezza. È quindi importante specificare quali ulteriori test end-to-end siano necessari per gli impieghi agentici, invece di presumere che il risultato ottenuto sul singolo modello certifichi l’intero sistema.

Come riconoscere un rallentamento efficace

Un rallentamento è significativo quando evidenze indipendenti possono cambiare le decisioni successive: un rilascio ad alto rischio può essere rinviato, limitato o corretto se le misure di sicurezza sono insufficienti, mentre gli usi ordinari e meno rischiosi mantengono un percorso proporzionato verso l’adozione. I quadri e i programmi di test di Singapore offrono una base per costruire questo tipo di garanzia, ma soglie di rilascio, meccanismi di applicazione e ambito delle valutazioni dovrebbero essere esplicitati.