Singapore vuole portare l’AI nella pubblica amministrazione senza lasciarla agire senza controllo

La distinzione è importante perché un agente non si limita necessariamente a generare testo. In base ai permessi e alle integrazioni disponibili, può prendere decisioni, chiamare strumenti esterni o svolgere attività alla velocità di una macchina. Il registro funziona quindi come un inventario dei “lavoratori digitali” e come uno strumento di responsabilizzazione, non come un semplice catalogo software.

GovTech, l’agenzia tecnologica centrale di Singapore per la trasformazione digitale del settore pubblico, descrive AI Assistant Desk come un ambiente sicuro per gli assistenti digitali dei funzionari. Gli impieghi previsti comprendono la stesura di report, la gestione degli appuntamenti, la programmazione informatica, la ricerca e altre attività ricorrenti.

I limiti tecnici stabiliscono cosa possono fare gli agenti

Il modello di Singapore punta a far rispettare la sicurezza attraverso l’intero sistema, invece di affidarsi soltanto alle protezioni integrate nel singolo modello AI. Tra i controlli indicati figurano:

• regole configurabili per agenzie e casi d’uso diversi;
• strumenti AI approvati dall’amministrazione;
• blocchi per azioni come eliminare file o inviare email verso l’esterno;
• limiti al numero o alla tipologia dei destinatari, per ridurre invii incontrollati e spam;
• controlli automatici sulle richieste e sulle risposte, inclusa la ricerca di linguaggio offensivo e altri problemi di “igiene” dei contenuti.

L’approccio segue il principio del minimo privilegio: un agente dovrebbe avere soltanto gli accessi e la libertà d’azione indispensabili per il compito assegnato. È una scelta particolarmente rilevante quando le agenzie usano più modelli o collegano gli agenti a sistemi pubblici sensibili.

Una protezione separata dai modelli, anche quando cambiano

AI Guardian di GovTech aggiunge un livello distinto di controllo per le applicazioni basate sull’intelligenza artificiale. I suoi due componenti svolgono funzioni diverse: Litmus valuta i rischi di sicurezza e affidabilità prima della messa in servizio attraverso test avversariali, mentre Sentinel offre moderazione dei contenuti e filtraggio delle risposte in tempo reale quando l’applicazione è già operativa.

Separare questi controlli dal modello sottostante può ridurre la dipendenza da un singolo fornitore. GovTech ha inoltre spiegato che l’architettura di sicurezza di AI Assistant Desk è stata pensata per mantenere attive le protezioni anche quando vengono aggiunti o sostituiti strumenti AI di terze parti.

La logica è semplice: il modello può cambiare, ma i requisiti dell’amministrazione su protezione dei dati, azioni consentite, monitoraggio e sicurezza delle risposte dovrebbero restare stabili. Il quadro di GovTech per un’AI responsabile indica sicurezza, robustezza, protezione dei dati e privacy, spiegabilità e trasparenza come requisiti fondamentali.

L’adozione procede insieme alla formazione

Il programma non riguarda soltanto gli agenti autonomi. L’assistente Pair di GovTech supporta già attività come scrittura, ricerca, sintesi e analisi su dispositivi forniti dall’amministrazione. È inoltre autorizzato a lavorare con dati governativi sensibili che i chatbot commerciali non possono gestire.

GovTech sta sviluppando anche strumenti per assistere la programmazione e approcci low-code, così da permettere ai team tecnici e ai funzionari di creare prototipi o automatizzare flussi di lavoro più rapidamente. Rapporti precedenti dell’agenzia descrivevano piani per assistenti alla scrittura del codice, sviluppo software supportato dall’AI e strumenti capaci di accompagnare i prototipi verso ambienti più sicuri.

La formazione è un altro elemento dell’infrastruttura. GovTech mette a disposizione risorse per sviluppare competenze in materia di dati e AI tra i dipendenti pubblici, mentre i piani più ampi di Singapore prevedono programmi per formare professionisti tecnologici all’automazione del codice e alla costruzione di sistemi agentici.

L’obiettivo pratico è creare competenze interne: i funzionari devono sapere quando l’AI è adatta a un compito, i tecnici devono saper valutare e proteggere ciò che costruiscono e le agenzie hanno bisogno di piattaforme condivise, non di una serie di esperimenti isolati.

I progetti pubblici mostrano perché la valutazione è decisiva

Il lavoro di GovTech su LangBuddy illustra la necessità di valutare un’applicazione AI in base al suo scopo reale. LangBuddy è un chatbot vocale pensato per aiutare gli studenti a esercitarsi nella conversazione in una lingua madre.

Per uno strumento di questo tipo, non basta verificare se il chatbot produce risposte fluenti. La valutazione di GovTech considera anche la sicurezza, il rischio di allucinazioni e il rispetto delle regole pedagogiche previste.

Lo stesso principio vale per tutti i servizi pubblici: un sistema deve essere testato per capire se svolge il compito per cui è stato progettato, rispetta i propri limiti e si comporta in modo accettabile nelle interazioni realistiche. Non è sufficiente che le sue risposte siano convincenti.

La cybersecurity è una condizione necessaria e un campo di applicazione dell’AI

La stessa filosofia compare nel lavoro di GovTech sulla sicurezza informatica. Le capacità dichiarate includono la progettazione sicura dei sistemi, esercitazioni di red team, penetration test, programmi di segnalazione delle vulnerabilità da parte di ricercatori esterni e attività di blue team per individuare e contrastare le minacce.

GovTech sta inoltre sperimentando penetration test assistiti dall’AI e il triage automatico degli incidenti nei centri operativi di sicurezza. In questo modo l’intelligenza artificiale viene testata su entrambi i fronti: per contribuire a scoprire le debolezze e per aiutare i difensori a stabilire quali incidenti hanno la priorità.

Alcuni resoconti citano oltre 2.000 sistemi digitali governativi nel contesto dell’espansione dei test di sicurezza. Il materiale disponibile conferma la direzione generale — red teaming, penetration test e operazioni di sicurezza assistite dall’AI — ma non dimostra che test continui basati sull’AI siano già attivi su ciascuno di quei sistemi.

Che cosa rivela questa strategia

Nel complesso, le iniziative di Singapore sostengono tre obiettivi collegati:

1. Migliorare i servizi pubblici. Assistenti e agenti possono occuparsi di stesura, analisi, programmazione e flussi di lavoro ricorrenti, lasciando ai funzionari più tempo per i casi complessi e per le attività a contatto con i cittadini.
2. Rafforzare le competenze tecnologiche interne. Piattaforme condivise, strumenti di valutazione, livelli di sicurezza e formazione aiutano Singapore a conservare conoscenze operative, invece di dipendere interamente da un singolo fornitore o prodotto commerciale.
3. Proteggere fiducia pubblica e sistemi nazionali. Registri, permessi, audit, test di sicurezza e difesa informatica creano forme di supervisione mentre l’AI ottiene accesso a una quota crescente del lavoro e dei dati governativi.

La lezione centrale è che adottare l’AI in sicurezza è un problema di architettura almeno quanto di modelli. Singapore sta cercando di rendere l’intelligenza artificiale ampiamente disponibile, mantenendo però visibili proprietà, autorizzazioni, test e attività agli enti responsabili dei servizi pubblici.