GLM-5.3 e “Shield of Open Source”: così Z.ai ridisegna la sicurezza informatica dell’IA

GLM-5.3: forte nel trovare falle, meno nel trasformarle in attacchi

Z.ai sostiene che GLM-5.3 abbia ottenuto risultati particolarmente solidi nell’individuazione delle vulnerabilità. Nei dati comunicati dall’azienda, il modello avrebbe raggiunto l’84,5% nel benchmark CyberGym, contro l’83,8% attribuito al modello Mythos 5 di Anthropic, disponibile in forma limitata per attività di sicurezza informatica.

Il confronto, però, va letto con cautela: si tratta di risultati riferiti dalla stessa Z.ai e non di una verifica indipendente della parità tra i due sistemi. Inoltre, GLM-5.3 risulterebbe più debole quando deve trasformare una vulnerabilità individuata in un exploit funzionante.

La distinzione è cruciale. Scoprire una falla può aiutare i difensori a correggerla prima che venga sfruttata; automatizzare la costruzione di un attacco concreto può invece ridurre tempi, costi e competenze necessari a un aggressore.

Il problema dei pesi aperti

I cosiddetti open weights sono i parametri addestrati del modello, che possono essere scaricati ed eseguiti anche al di fuori dell’infrastruttura del fornitore. Questa caratteristica rende l’IA più accessibile e personalizzabile, ma può anche abbassare la barriera d’ingresso per chi intende cercare vulnerabilità o automatizzare fasi di un’intrusione.

Per questo Z.ai ha rinviato la pubblicazione dei pesi di GLM-5.3, prevista dopo una revisione di sicurezza e ulteriori misure di protezione, pur continuando a promuovere un rilascio aperto.

Il paradosso è evidente: gli stessi strumenti che consentono a un piccolo team di controllare il proprio codice possono aiutare un attaccante a individuare più rapidamente i punti deboli di software utilizzato da altri.

Un compromesso a più livelli

La soluzione proposta da Z.ai è un sistema di controllo selettivo e stratificato. L’azienda afferma di voler usare revisioni del rischio e un monitoraggio più intenso per bloccare le richieste cyber ad alto rischio, lasciando invece disponibili le normali attività di programmazione e di sicurezza difensiva.

Le funzioni offensive più sensibili verrebbero riservate a utenti verificati tramite “Cybersecurity Trusted Access”, anziché essere incluse nell’accesso libero al modello.

In teoria, questo approccio concentra i controlli sul margine più pericoloso senza impedire agli sviluppatori open source e ai team di sicurezza più piccoli di usare l’IA per esaminare il codice, validare i rischi e accelerare le correzioni.

“Project Glasswing con caratteristiche cinesi”

La formula usata dal ricercatore Gabriel Wagner — “Project Glasswing con caratteristiche cinesi” — riassume il cambio di prospettiva. Invece di considerare l’apertura principalmente un difetto di sicurezza, Z.ai la presenta come uno strumento per scalare la difesa, migliorare il software condiviso e coinvolgere sviluppatori in tutto il mondo, concentrando le restrizioni sulle capacità più pericolose.

Resta però una domanda decisiva: quanto potranno funzionare questi controlli una volta che i pesi saranno scaricabili pubblicamente? Il blocco delle richieste tramite API e la verifica degli utenti possono essere applicati ai servizi gestiti direttamente da Z.ai. Sono molto più difficili da far rispettare quando copie del modello vengono eseguite e modificate autonomamente da soggetti esterni.

La vera svolta di GLM-5.3, quindi, non è soltanto la sfida ai modelli di Anthropic e OpenAI. È il tentativo di dimostrare che apertura e sicurezza possono coesistere, purché le protezioni non siano applicate indistintamente a ogni utilizzo ma concentrate sulle funzioni con il più alto potenziale offensivo.