I modelli avanzati possono inoltre rendere più efficaci phishing e impersonificazione. Secondo la CSA, l’AI consente di generare messaggi-esca convincenti in grandi quantità, creare cloni vocali e video deepfake realistici e sviluppare strumenti pensati per aggirare l’autenticazione a più fattori. Di conseguenza, la superficie d’attacco si amplia: oltre alle vulnerabilità tecniche, diventano obiettivi rilevanti anche identità digitali, autorizzazioni e decisioni umane.
Anthropic ha presentato Claude Mythos Preview come un modello particolarmente capace nelle attività di sicurezza informatica e ha lanciato Project Glasswing per impiegarlo nella difesa di software critici. Le affermazioni pubbliche più ambiziose sulle sue prestazioni, tuttavia, vanno considerate con cautela: la verifica indipendente resta limitata e Anthropic ha mantenuto il modello in un programma ad accesso controllato, senza renderlo disponibile al pubblico in modo ampio.
Il Governo di Singapore ha dichiarato di non avere accesso a Mythos e di non dare per scontato che potrà ottenere un accesso anticipato a ogni futuro modello di frontiera. Per questo collabora con laboratori di AI, aziende di cybersecurity e altri partner in grado di seguire l’evoluzione delle capacità dei modelli e valutarne le implicazioni per la sicurezza.
La distinzione è importante: le organizzazioni non possono costruire la propria strategia difensiva sull’analisi di un singolo modello. Servono controlli destinati a rimanere efficaci anche quando cambiano modelli, strumenti e modalità operative degli attaccanti.
La CSA e GovTech, l’agenzia tecnologica del Governo, hanno allertato i gestori delle CII e le agenzie governative sui rischi dell’AI di frontiera. Le misure più urgenti sono concrete:
Questi interventi non sono nuovi, ma l’AI di frontiera rende più rischioso rimandare. L’obiettivo è ridurre il numero di debolezze sfruttabili e accorciare il tempo tra l’individuazione di un problema e la sua correzione.
Gli strumenti di cybersecurity basati sull’AI possono aiutare i team a rilevare le minacce, classificare gli avvisi, analizzare gli incidenti e individuare o correggere più rapidamente le vulnerabilità. CSIT, il centro di Singapore dedicato alle tecnologie di sicurezza, descrive flussi di lavoro assistiti dall’AI e sistemi di fuzzing progettati per scoprire vulnerabilità zero-day nei software essenziali, oltre ad attività di emulazione avversariale per individuare le debolezze architetturali prima degli aggressori.
La difesa basata sull’AI introduce però nuove responsabilità. Secondo la CSA, non basta rafforzare il modello. I gestori dei sistemi devono valutare i rischi lungo l’intero ciclo di vita dell’AI: pianificazione e progettazione, sviluppo, implementazione, esercizio e manutenzione, fino alla dismissione. Questo significa proteggere dati di addestramento e operativi, interfacce, dipendenze, catena di fornitura, controlli di accesso e sistemi di monitoraggio, non soltanto il comportamento del modello.
La verifica umana resta essenziale, soprattutto quando un sistema di AI suggerisce una patch, classifica un incidente o propone una risposta che potrebbe influire su tecnologia operativa e servizi pubblici.
L’indirizzo di Singapore combina requisiti di base e test continui. I gestori delle CII ricorrono già ad audit di terze parti e a test di penetrazione periodici, i cui risultati vengono trasmessi alla CSA; il Governo ha inoltre sottolineato che i controlli devono essere rafforzati costantemente, senza affidarsi soltanto a verifiche periodiche.
Il principio operativo è semplice: mettere in sicurezza, scoprire per primi, correggere rapidamente. In pratica significa mantenere inventari degli asset, eseguire scansioni continue delle vulnerabilità, applicare rapidamente le patch, segmentare reti e privilegi, testare software e dipendenze e simulare il ripristino dopo un attacco.
Le aziende che non rientrano formalmente tra i gestori di CII dovrebbero applicare le stesse priorità ai servizi esposti a Internet, ai sistemi di gestione delle identità, alle console cloud e ai collegamenti sensibili con fornitori terzi.
Nessuna organizzazione può osservare da sola ogni nuova capacità dell’AI di frontiera o ogni possibile percorso d’attacco. Agenzie pubbliche, gestori delle CII, fornitori cloud e tecnologici, ricercatori e università dovrebbero condividere con rapidità indicatori utili, informazioni sulle vulnerabilità e lezioni apprese durante le esercitazioni.
Una parte delle informazioni dovrà necessariamente restare classificata. Singapore ha dichiarato che condividerà selettivamente intelligence classificata sulle minacce con i gestori delle CII, fornendo loro anche strumenti difensivi. Le organizzazioni devono quindi agire sugli avvisi della CSA e utilizzare, quando i dettagli non possono essere distribuiti, informazioni bonificate e condivisibili.
Le esercitazioni nazionali fanno parte dello stesso approccio. La Critical Infrastructure Defence Exercise ha impiegato simulazioni di attacchi informatici guidate dall’AI in 11 settori critici, insieme a partner industriali, per rafforzare la resilienza nazionale e migliorare il coordinamento.
L’AI di frontiera non sostituisce i fondamentali della cybersecurity: rende più costoso ignorarli. Nel breve periodo, la difesa più solida per Singapore è una combinazione di patch rapide, MFA, accessi basati sul privilegio minimo, monitoraggio continuo, test avversariali, adozione sicura dell’AI e condivisione tempestiva delle informazioni.
In una corsa contro strumenti capaci di cercare automaticamente le falle, il vantaggio maggiore sarà di chi individua le proprie debolezze prima che lo faccia un attaccante.