Chen Yixin avverte: l’IA può minacciare la stabilità politica e le infrastrutture della Cina

Chen Yixin, ministro della Sicurezza di Stato cinese, ha avvertito che l’avanzamento rapido e l’uso ostile dell’intelligenza artificiale possono minacciare direttamente la sicurezza politica, istituzionale e ideologica della Cina, oltre alle sue infrastrutture critiche. Nel suo intervento sulla rivista ufficiale China Cyberspace, ha presentato l’IA soprattutto come una questione di sicurezza nazionale e di protezione del sistema politico. 57

Deepfake, disinformazione e operazioni di influenza

Chen ha individuato sei categorie di rischio legate all’IA. Tra le più rilevanti, ha citato l’uso da parte di forze ostili di audio e video deepfake, testi e immagini generati artificialmente e account automatizzati sui social media. Questi strumenti, secondo il ministro, possono essere impiegati per fabbricare voci politiche su larga scala, diffondere contenuti dannosi, acuire tensioni sociali e condurre operazioni di manipolazione dell’opinione pubblica e di guerra cognitiva. 57

In questa prospettiva, il pericolo non riguarda soltanto la disinformazione in senso generico: per Pechino, le campagne d’influenza abilitate dall’IA possono incidere direttamente sulla stabilità politica e sul controllo ideologico.

Cyberattacchi, dati sensibili e infrastrutture

Un secondo fronte riguarda la sicurezza informatica. Chen ha sostenuto che l’IA abbassa costi e soglia tecnica necessari per condurre intrusioni digitali o sviluppare malware. La tecnologia potrebbe anche facilitare attività di intelligence e la sottrazione su vasta scala di segreti di Stato, dati commerciali riservati e informazioni personali. 31113

Ha inoltre richiamato i possibili rischi per le infrastrutture informative critiche e per la gestione sociale. Reuters ha riferito che Chen ha citato anche la capacità crescente dell’IA di individuare vulnerabilità nei sistemi e di creare software dannoso per sfruttarle. 35

L’IA come terreno di competizione strategica

Per Chen, la sicurezza dell’IA non può essere separata dalla sovranità tecnologica. Il ministro descrive la corsa globale all’intelligenza artificiale come una competizione nella quale gli Stati più avanzati possono invocare ragioni di sicurezza nazionale per imporre controlli tecnologici, orientare o monopolizzare gli standard e costruire ecosistemi proprietari e chiusi. 57

Da questo punto di vista, dipendenza dalle tecnologie estere, controllo delle catene di fornitura, contenimento tecnologico e interferenze straniere rientrano nello stesso problema di sicurezza.

Un’impostazione diversa da quella di Anthropic

L’avvertimento di Chen è arrivato mentre Dario Amodei, amministratore delegato di Anthropic, chiedeva di rallentare il ritmo con cui crescono le capacità dei modelli di frontiera. Nel saggio We Must Pace the Frontier, Amodei non propone di fermare la ricerca, ma di lasciare più tempo ai sistemi di allineamento, alle protezioni di sicurezza e alle verifiche esterne. 122

La sua proposta include valutatori indipendenti inseriti stabilmente nei laboratori con un accesso simile a quello dei dipendenti, impegni comuni sulla sicurezza tra Paesi democratici e, in prospettiva, un coordinamento internazionale più ampio che coinvolga anche governi autoritari. 122

Sam Altman, CEO di OpenAI, ha dichiarato che la sua azienda adotterà l’idea di valutatori indipendenti con accesso di livello paragonabile a quello dei dipendenti. Anche Elon Musk ha espresso pubblicamente accordo con l’invito di Amodei a «dosare il ritmo» dello sviluppo. 101

Due visioni della sicurezza dell’IA

Le due impostazioni hanno punti di contatto — cyberuso illecito, spionaggio, disinformazione e impieghi militari — ma partono da priorità differenti.

• La lente di Pechino è centrata sullo Stato: stabilità politica, autorità del Partito comunista, controllo ideologico, sovranità dei dati, sicurezza delle infrastrutture e autonomia dalla pressione tecnologica straniera. 57
• La lente della sicurezza dei modelli di frontiera nella Silicon Valley è centrata sulle capacità: impedire che sistemi troppo potenti o non sufficientemente protetti favoriscano cyberattacchi catastrofici, azioni autonome dannose, abusi scientifici pericolosi o una perdita di controllo umano effettivo. 122

La differenza riguarda anche chi debba stabilire le regole. Pechino può considerare alcuni standard di sicurezza e requisiti di trasparenza come possibili strumenti di restrizione tecnologica; le aziende e i governi occidentali che sostengono valutazioni indipendenti li presentano invece come misure per ridurre i rischi.

Il nodo dei colloqui tra Stati Uniti e Cina

A metà settembre sono previsti colloqui dedicati alla sicurezza dell’IA tra Stati Uniti e Cina, i primi concentrati esclusivamente su questo tema dall’inizio del secondo mandato di Donald Trump. 4

Il saggio di Chen suggerisce che Pechino potrebbe puntare a un’agenda più ampia delle sole questioni di allineamento dei modelli e rischio catastrofico: interferenze estere, tutela dei dati e delle infrastrutture, partecipazione paritaria alla definizione degli standard e opposizione al contenimento tecnologico. 37

Per questo, accordi circoscritti su danni concreti — come frodi con media sintetici, cyberattacchi assistiti dall’IA, segnalazione degli incidenti o comunicazioni sui rischi militari — potrebbero risultare più praticabili di un’intesa universale su limiti alle capacità o valutazioni comuni dei modelli.