Sicurezza dell’IA, nessuna azienda supera la sufficienza: tre bocciate su nove

I voti azienda per azienda

La tabella seguente mostra il voto complessivo e il punteggio numerico (sempre in scala GPA) per ogni società nell’edizione Estate 2026 ^FTFF:

Anthropic si conferma al primo posto per il secondo indice consecutivo, ma anche in questo caso senza riuscire a staccarsi da una mediocrità di fondo ^TF.

I sei ambiti valutati

Una commissione indipendente composta da sette esperti di IA e governance ha valutato ogni azienda sulla base di 37 indicatori, raggruppati in sei aree ^FF:

• Valutazione del rischio — 6 indicatori: come le aziende valutano capacità pericolose, come i rischi biologici o gli attacchi informatici.
• Danni attuali — 9 indicatori: danni documentati causati dai sistemi già in uso, tra cui bias, disinformazione e violazioni della privacy.
• Framework di sicurezza — 4 indicatori: esistenza di politiche concrete per test pre-rilascio, red-teaming e rilascio responsabile.
• Sicurezza esistenziale — 4 indicatori: piani per il controllo di sistemi AI avanzati, inclusi AGI e superintelligenza.
• Governance e responsabilità — 4 indicatori: supervisione del consiglio di amministrazione, politiche per whistleblower e audit indipendenti.
• Condivisione delle informazioni — 10 indicatori: trasparenza nei report, accesso a ricercatori esterni e divulgazione pubblica delle pratiche di sicurezza.

Secondo il rapporto, nessuna azienda ha ottenuto un voto superiore a D nell’ambito della sicurezza esistenziale per il secondo indice consecutivo ^FCY. Il panel ha stabilito che nessuna delle nove società dispone di un piano credibile per tenere sotto controllo un’eventuale AGI o superintelligenza ^Y.

Perché xAI ha preso F — il crollo più netto

Tra l’edizione Inverno 2025 e quella Estate 2026, xAI è scivolata dal 4° al 7° posto, registrando il calo più marcato tra tutte le aziende valutate ^TF. Il suo punteggio è passato da 1.17 (livello D) a 0.65 (livello F) ^FL. Diversi fattori hanno determinato questo tracollo:

• Bocciatura in più ambiti: xAI ha preso F sia in "Danni attuali" che in "Sicurezza esistenziale", e voti quasi insufficienti in Valutazione del rischio e Framework di sicurezza ^FF.
• Nessuna risposta al questionario: xAI è tra le aziende che non hanno partecipato all’indagine dell’istituto, limitando la capacità dei revisori di valutare le pratiche interne ^T.
• I concorrenti migliorano, xAI arretra: Meta, ad esempio, è salita dal 6° al 4° posto nello stesso periodo ^TF.
• Posizione debole nel confronto: solo xAI, DeepSeek e Mistral hanno ricevuto un voto complessivo insufficiente, collocando xAI tra le società peggio valutate dell’indice ^TF.

Sei criticità sollevate dal rapporto

Il rapporto FLI, ripreso da testate come Time e Axios, ha evidenziato sei problemi sistemici ^T:

1. Ritirata dagli impegni di sicurezza. Anthropic, OpenAI, Google DeepMind e Meta hanno indebolito o eliminato i precedenti impegni a fermare lo sviluppo se i loro sistemi avessero raggiunto soglie di pericolo predefinite. Il rapporto definisce questo comportamento come "spostare l’asticella" ^AT.

2. La sicurezza esistenziale resta il punto più debole. Nessuna azienda ha ottenuto più di un D in questo ambito per il secondo indice consecutivo ^TFY.

3. Le garanzie volontari si erodono prima che arrivino le regole. Max Tegmark, presidente del FLI, ha avvertito che le aziende di IA stanno "sprintando verso un burrone", gareggiando verso una superintelligenza artificiale pur riconoscendo rischi enormi ^T.

4. Crescente uso militare dell’IA commerciale. Aziende che in passato avevano vietato in modo generalizzato l’uso militare — tra cui Anthropic, OpenAI e Google — si stanno aprendo a partnership militari ^T.

5. Un modello globale di voti insufficienti. I tre voti F provengono da aziende di tre diverse aree geografiche: xAI (Stati Uniti), DeepSeek (Cina) e Mistral (Europa) ^TFF.

6. Le capacità corrono più veloci delle tutele. La pubblicazione del rapporto ha coinciso con una conferenza ONU sull’IA a Ginevra, dove il Segretario Generale António Guterres ha dichiarato: "Potremmo essere l’ultima generazione in grado di stabilire i termini su cui umanità e macchine possono coesistere" ^T.

Cosa aspettarsi in futuro

L’AI Safety Index del FLI viene pubblicato due volte l’anno, offrendo una verifica periodica su come il settore affronta le proprie carenze di sicurezza. L’edizione Inverno 2026 mostrerà se aziende come xAI e DeepSeek riusciranno a invertire la tendenza negativa — e se qualcuna riuscirà finalmente a superare il tetto del C+.