Nvidia accelera sulla sicurezza dell’IA: a Black Hat debutta SAFE

L’Open Secure AI Alliance (OSAA), la coalizione guidata da Nvidia, ha trasformato in una settimana la propria attività di pressione a favore dell’IA open-weight in un primo progetto concreto di sicurezza. A Black Hat, la grande conferenza internazionale sulla cybersecurity, il gruppo ha presentato la Shared AI Findings Exchange, o SAFE: una bozza di linee guida sottoposta a commenti pubblici e gestita dalla Linux Foundation.

È un passo più tangibile di una semplice dichiarazione di principi, ma SAFE resta un framework in fase iniziale, non ancora un sistema di condivisione degli incidenti già collaudato.

Come dovrebbe funzionare SAFE

Il progetto nasce da un problema ricorrente nella sicurezza dell’intelligenza artificiale: un’azienda può scoprire un attacco, un malfunzionamento o un «quasi incidente» senza che altre organizzazioni, esposte allo stesso rischio, possano imparare da quell’esperienza.

La proposta si concentra su quattro pratiche:

• raccogliere e analizzare in modo riservato gli incidenti e i quasi incidenti di sicurezza legati all’IA;
• informare tempestivamente le organizzazioni interessate quando un episodio le riguarda;
• individuare errori ricorrenti nei controlli e nelle procedure di sicurezza;
• produrre lezioni basate sulle evidenze, senza attribuire colpe, utilizzabili da tutto l’ecosistema.

L’obiettivo è trasformare i singoli casi di prompt injection, fuga di dati o comportamento fuori controllo di un agente in intelligence difensiva condivisa. Invece di costringere ogni azienda a scoprire da sola le stesse vulnerabilità, SAFE punta a creare un processo comune per ricavare protezioni più ampie dagli errori individuali.

Non un singolo prodotto, ma una possibile architettura di sicurezza

SAFE è solo un tassello della strategia OSAA. L’alleanza sta raccogliendo anche strumenti open source e tecnologie ispezionabili, ciascuna destinata a un diverso livello della sicurezza degli agenti IA.

Tra i contributi citati figurano:

• Nvidia: famiglie di modelli con pesi aperti, i controlli di runtime di OpenShell per limitare ciò che un agente può vedere, raggiungere o fare, strumenti di test e auditing e Garak, uno scanner open source per rischi come fuga di dati, prompt injection e jailbreak.
• Okta: implementazioni di riferimento per identità e accesso degli agenti basate sul protocollo Cross App Access, con l’obiettivo di collegare gli agenti alle applicazioni aziendali in ambienti più controllati.
• Red Hat: asago, un progetto open source di governance pensato per collegare le policy organizzative ai permessi di runtime e creare una traccia verificabile dalla regola al controllo tecnico.
• Amazon: Strands Agents, toolkit open source per costruire e valutare agenti, insieme a Cedar, un linguaggio per le autorizzazioni.
• Altri membri: progetti incentrati sull’identità, come Agent Guard e Agent Watch, a conferma del fatto che proteggere un agente richiede più di una semplice scansione del modello.

Nel complesso, queste iniziative coprono identità, permessi, ambienti di esecuzione degli agenti, comportamento a runtime, valutazione, dati, governance e resilienza. Se maturassero, potrebbero fornire alle imprese un insieme comune di controlli open source per limitare e monitorare gli agenti, compresi quelli malevoli o capaci di agire oltre il perimetro previsto. Per ora, tuttavia, si tratta di una possibilità e non di un risultato già dimostrato.

Chi partecipa e chi non c’è

Secondo le ricostruzioni disponibili, nella prima settimana OSAA ha superato le 120 organizzazioni. Tra i partecipanti di rilievo vengono citati Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat e Visa; Amazon è indicata come entrata più di recente.

La coalizione è nata dopo una lettera aperta del 24 luglio che chiedeva ai decisori politici statunitensi di evitare restrizioni ampie o premature sui modelli di IA open-weight. Il documento, inizialmente sostenuto da 25 aziende tra cui Nvidia, Microsoft, Meta, IBM, Dell, Palantir e Hugging Face, avvertiva che limitare i modelli scaricabili avrebbe potuto danneggiare la concorrenza e spingere gli utenti verso sistemi di IA cinesi, mentre Washington valutava la propria risposta sul piano della sicurezza nazionale.

Al momento delle notizie da Black Hat, Anthropic, OpenAI e Google risultavano assenti da OSAA. Il quadro relativo alla lettera, però, è meno netto: le fonti divergono sull’elenco successivo dei firmatari. Alcuni resoconti affermano che OpenAI e Google siano state aggiunte in seguito, mentre altri le descrivono come assenti dal gruppo originario. Le informazioni disponibili non spiegano il motivo per cui queste società non avessero aderito a OSAA, quindi non è possibile attribuire loro una motivazione.

Perché la velocità dell’alleanza conta

La tesi strategica di OSAA è che apertura e sicurezza non debbano essere necessariamente in conflitto. Modelli, strumenti, valutazioni e lezioni sugli incidenti accessibili a più difensori possono facilitare l’analisi dei guasti, la riproduzione delle vulnerabilità e la distribuzione delle correzioni. SAFE prova a conciliare questo obiettivo con la riservatezza necessaria durante la raccolta e l’analisi degli incidenti, condividendo in seguito lezioni generalizzate.

La composizione trasversale dell’alleanza potrebbe inoltre favorire interfacce e pratiche comuni tra sviluppatori di modelli, fornitori cloud e infrastrutturali, specialisti dell’identità, aziende di sicurezza e clienti aziendali. Se questi progetti si consolidassero, i sistemi di IA aperti potrebbero diventare più semplici da valutare, controllare e usare in contesti professionali.

Questo rafforzerebbe anche l’argomento secondo cui l’IA open-weight è una questione di competitività statunitense, soprattutto mentre i decisori politici discutono come rispondere ai laboratori cinesi. Ma OSAA non ha ancora dimostrato di aver migliorato la competitività degli Stati Uniti o ridotto il rischio sistemico dell’IA. Il risultato misurabile, per ora, è più circoscritto: una coalizione di oltre 120 membri è passata dalla difesa politica dell’IA aperta a una bozza pubblica per coordinare la segnalazione degli incidenti, mentre i suoi partecipanti stanno contribuendo con strumenti che nel tempo potrebbero formare un livello di difesa più interoperabile.