La corsa all’IA avanzata sta logorando chi dovrebbe renderla più sicura

Per chi lavora alla sicurezza dell’IA di frontiera — i modelli più potenti e avanzati — la pressione ha una forma particolare: valutare sistemi che si ritiene possano creare danni seri, senza avere necessariamente l’autorità per rinviarne il rilascio o imporre correzioni.

Secondo le segnalazioni relative all’UK AI Safety Institute, più persone avrebbero preso congedi medici o cercato supporto psicologico. Tra i fattori indicati figurano finestre di test molto ristrette, morale basso e preoccupazione per una diffusione commerciale che procede rapidamente. 2 Non dimostra che il disagio sia universale nell’istituto o nei grandi laboratori come Anthropic, OpenAI e Google DeepMind. Ma segnala il costo umano di una competizione tecnologica ad alta posta in gioco.

Perché questo lavoro può diventare psicologicamente pesante

I ricercatori di sicurezza non studiano un rischio remoto: testano modelli che potrebbero essere messi in circolazione a breve. Da qui il conflitto tra responsabilità professionale e inerzia organizzativa: scoprire una vulnerabilità non equivale ad avere il potere di bloccare un lancio.

Le segnalazioni sull’istituto britannico si concentrano su tempi di valutazione ridotti per sistemi non ancora pubblicati e sul timore che la corsa alle capacità e alla commercializzazione stia accelerando. 2 In queste condizioni, il burnout può essere aggravato dalla sensazione di essere personalmente responsabili di rischi che un singolo valutatore non può risolvere da solo.

Non è necessario concludere che un lavoratore sia irrazionale o che una catastrofe sia certa. Il problema è istituzionale: conseguenze percepite come molto gravi, ritmo intenso e meccanismi poco chiari di intervento indipendente.

I rischi al centro delle preoccupazioni

Le paure riguardano sia abusi a breve termine, sia scenari più speculativi di perdita di controllo nel lungo periodo.

Abusi informatici e biologici

Un modello molto capace potrebbe ridurre competenze, tempo o costi necessari per attività dannose. Jacob Coxon, già ricercatore di Anthropic e in precedenza di OpenAI, ha indicato le minacce biologiche abilitate dall’IA e le armi informatiche come possibili vie verso danni gravi. 15

Questo non significa che un modello specifico abbia già provocato simili eventi. Spiega però perché i team di sicurezza insistono su valutazioni, controlli di accesso e monitoraggio prima che sistemi con capacità di ragionamento o comportamento agentico più avanzati vengano distribuiti su larga scala.

Sistemi che avanzano più in fretta della supervisione

Un’altra preoccupazione è che l’IA possa automatizzare porzioni sempre maggiori della ricerca e dell’ingegneria, accelerando lo stesso ciclo di sviluppo. Un rapporto del CSET di Georgetown descrive come possibile scenario — non come esito accertato — una ricerca e sviluppo dell’IA altamente automatizzata, con progressi più rapidi e sistemi più difficili da comprendere e controllare per gli esseri umani. 48

Le prove attuali impongono comunque un limite importante: uno studio recente ha rilevato che agenti di IA riuscivano a svolgere senza aiuto umano una parte sostanziale del lavoro di ingegneria della ricerca, ma non a fare progressi significativi sulle domande aperte esaminate. 49 Il miglioramento ricorsivo completo non è quindi dimostrato. La preoccupazione riguarda piuttosto direzione e velocità: anche un’automazione parziale può ridurre il tempo disponibile per valutazioni, governance e correzioni.

Perché le dimissioni di Jacob Coxon hanno colpito

Le dimissioni pubbliche di Coxon hanno dato un volto umano a timori spesso confinati all’interno dei laboratori. Dopo aver lavorato sulla ricerca di pre-addestramento in OpenAI e Anthropic, ha sostenuto che le aziende stessero correndo verso una superintelligenza in grado di migliorarsi senza agire in modo responsabile. Alla BBC ha detto che chi lavora su queste tecnologie è «genuinamente spaventato» dalla rapidità dei progressi e dalle loro implicazioni. 1

Una dimissione non convalida ogni previsione di chi lascia. Rende però visibile un dilemma: restare in un laboratorio offre più possibilità di rafforzare le protezioni, oppure andarsene e parlare pubblicamente diventa necessario quando i canali interni sembrano insufficienti?

Perché un singolo laboratorio non può rallentare facilmente la corsa

Il nodo della governance è un problema di azione collettiva. Un laboratorio che rallentasse da solo lo sviluppo delle capacità potrebbe temere di perdere terreno rispetto ai concorrenti; chi vi lavora avrebbe comunque un’influenza limitata su una gara che coinvolge l’intero settore.

Un confronto promosso da Stanford HAI ha concluso che un rallentamento generalizzato dello sviluppo delle capacità di IA sarebbe difficile da ottenere. I partecipanti hanno però sottolineato l’importanza di valutazioni indipendenti condotte da governi o soggetti terzi qualificati, insieme a maggiori investimenti in sicurezza, protezione e monitoraggio. 18

È un approccio più concreto che lasciare il peso sulle coscienze individuali. Le domande diventano: chi esegue i test, cosa accade al superamento di una soglia di rischio e chi può verificare il rispetto delle regole?

Le richieste dell’industria di rallentare sono credibili?

Dario Amodei di Anthropic, Sam Altman di OpenAI e Demis Hassabis di Google DeepMind hanno espresso, con livelli diversi di precisione, sostegno a un rallentamento o a una maggiore «cadenza» nello sviluppo dell’IA di frontiera. 32 Tra le proposte discusse pubblicamente c’è l’accesso continuativo ai laboratori da parte di valutatori esterni e indipendenti. 36

Tuttavia, un impegno pubblico non equivale a una limitazione applicabile. I critici osservano che un blocco o congelamento dell’IA progettato dalle aziende dominanti potrebbe consolidarne il potere e penalizzare concorrenti più piccoli. 34 Le due cose possono essere vere insieme: alcuni dirigenti possono temere sinceramente i rischi, mentre le regole difficili da rispettare possono favorire gli operatori già dominanti.

Il criterio utile, quindi, non è indovinare le intenzioni ma poter verificare gli impegni. Una politica di sicurezza seria sarebbe più valutabile attraverso:

• test indipendenti, non controllati esclusivamente dallo sviluppatore;
• soglie di rischio esplicite e conseguenze definite in caso di superamento;
• segnalazione trasparente degli incidenti e pratiche di sicurezza verificabili;
• una supervisione esterna effettiva;
• tutele per i dipendenti che segnalano problemi di sicurezza.

Cosa mostrano — e cosa non mostrano — queste segnalazioni

Non dimostrano che l’estinzione umana sia imminente, che tutti i dipendenti dei laboratori di frontiera siano in sofferenza o che i sistemi attuali possano migliorarsi autonomamente senza limiti.

Mostrano però perché alcune persone vicine alla tecnologia vivono questo momento come un problema etico difficile: modelli potenti vengono valutati sotto pressione temporale; i danni temuti includono abusi cyber e biologici, oltre alla perdita di controllo; e le istituzioni che dovrebbero governare i rilasci potrebbero non avere ancora indipendenza o autorità sufficienti. 2 15 18

Per i ricercatori della sicurezza dell’IA, questa combinazione può trasformare un lavoro tecnico in una questione di responsabilità personale. La risposta duratura non è caricare quella responsabilità sui singoli, ma costruire sistemi credibili e verificabili in modo indipendente per la valutazione e la responsabilità, capaci di tenere il passo con la tecnologia che devono governare.