Stress, burnout e timori sull’IA di frontiera: perché alcuni ricercatori lasciano i laboratori

Per alcuni ricercatori che lavorano sulla sicurezza dell’IA, il problema è l’incrocio tra stress morale e pressione organizzativa. Devono testare modelli di frontiera — cioè i sistemi più potenti e recenti — ma temono che la rapidità con cui vengono sviluppati e distribuiti possa superare le misure di sicurezza, i controlli e la capacità di valutarne i rischi.

Secondo le informazioni riportate, alcuni dipendenti dell’UK AI Safety Institute (AISI), l’ente britannico che valuta in modo indipendente i modelli avanzati, avrebbero preso congedi per malattia o cercato consulenza psicologica. Le fonti citano morale basso e burnout legati a scadenze strette per i test. Esistono inoltre segnalazioni di ansia tra ricercatori dei grandi laboratori, ma le prove pubbliche disponibili non permettono di stabilire quanto il fenomeno sia esteso in ciascuna organizzazione. 15

Quali rischi preoccupano i ricercatori

Le paure non riguardano soltanto scenari remoti. Da un lato, modelli più capaci potrebbero abbassare la soglia necessaria per condurre attacchi informatici o per usi impropri in ambito biologico; dall’altro, cresce il timore che sistemi sempre più autonomi diventino difficili da comprendere e da tenere sotto un controllo umano effettivo. Jacob Coxon ha indicato esplicitamente minacce biologiche abilitate dall’IA e cyberarmi come possibili vie verso conseguenze catastrofiche. 15

Per chi svolge questo lavoro, la questione può diventare personalmente gravosa: non si studia un pericolo astratto, ma si valutano, addestrano o contribuiscono a distribuire gli stessi sistemi che suscitano preoccupazione. Se i tempi di test sono compressi e la concorrenza commerciale resta intensa, individuare un rischio senza avere la certezza di poter fermare un rilascio può alimentare impotenza, esaurimento e conflitto etico. 15

Il caso Jacob Coxon

Coxon, che aveva lavorato sulla preformazione dei modelli sia in OpenAI sia in Anthropic, si è dimesso da Anthropic accusando le aziende di correre verso una superintelligenza in grado di auto-migliorarsi senza agire in modo responsabile. 14 In un’intervista alla BBC ha affermato che persone nei principali laboratori erano «genuinamente spaventate» dalla velocità dei progressi e dalle loro possibili implicazioni per l’umanità. 9

La sua presa di posizione non dimostra che tali timori siano universali nei laboratori, ma ha trasformato inquietudini spesso private in un tema pubblico. Per altri dipendenti, la scelta può apparire più netta: restare, contestare dall’interno o andarsene.

Perché non basta chiedere alle aziende di rallentare

Dirigenti come Dario Amodei di Anthropic, Sam Altman di OpenAI e Demis Hassabis di Google DeepMind hanno espresso, con sfumature diverse, apertura a un rallentamento dello sviluppo dell’IA di frontiera. 2 Tuttavia, le dichiarazioni non risolvono il problema della fiducia.

I critici osservano che un eventuale “congelamento” dell’IA gestito dai grandi operatori potrebbe consolidare il loro potere e svantaggiare concorrenti più piccoli. 11 Per questo il test di credibilità, secondo questa prospettiva, è nelle misure verificabili: ritardi nei rilasci quando emergono rischi, audit esterni, soglie di sicurezza applicabili, tutele per chi segnala problemi e disponibilità ad accettare vincoli imposti dall’esterno.

Nelle discussioni dello Stanford Institute for Human-Centered Artificial Intelligence, un ampio rallentamento delle capacità è stato considerato difficile da ottenere; viene invece sottolineata l’importanza di valutazioni indipendenti svolte da governi o soggetti terzi qualificati. 3 Non ci sono elementi sufficienti, nelle fonti disponibili, per attribuire a Rob Reich una proposta dettagliata e specifica di azione coordinata dei lavoratori oltre a questo più ampio quadro di governance.

L’automazione della ricerca rende tutto più urgente

Non è accaduto che l’IA si migliori ricorsivamente da sola in modo completo: i ricercatori intervistati in uno studio affermano che questi sistemi non ne sono ancora capaci. 6 La preoccupazione è più concreta e graduale: gli agenti IA riescono già ad automatizzare parti del lavoro di ingegneria e ricerca, accelerando potenzialmente i cicli di sviluppo.

Il Center for Security and Emerging Technology (CSET) avverte che una ricerca e sviluppo dell’IA sempre più automatizzati potrebbero rendere più rapidi i progressi e più difficile per gli esseri umani comprendere e controllare i sistemi risultanti. 4 Un recente studio sugli agenti ha però rilevato un limite importante: gli agenti hanno completato compiti di ingegneria senza assistenza umana, ma non hanno ottenuto progressi sostanziali nella ricerca scientifica aperta. 5

In sintesi, non è una prova che un’estinzione umana sia imminente. È però un segnale che alcune persone più vicine allo sviluppo dell’IA di frontiera considerano psicologicamente ed eticamente insostenibile la combinazione di capacità in accelerazione, rischi a doppio uso, incentivi competitivi e controlli esterni ancora deboli.