L’IA che aiuta a costruire nuova IA: perché i ricercatori chiedono più controlli

Il timore al centro del nuovo appello non riguarda soltanto la possibilità che i modelli di IA diventino più capaci. Riguarda anche il loro impiego nella creazione dei modelli successivi: se l’intelligenza artificiale contribuisce a sviluppare altra intelligenza artificiale, la ricerca potrebbe entrare in un ciclo di accelerazione. Per questo oltre 20 ricercatori e dirigenti di OpenAI, Anthropic, Meta e Microsoft chiedono ai responsabili politici di esaminare quanto sia già avanzata l’automazione della ricerca, prima che diventi più difficile tenere il passo. 23

L’eventualità viene talvolta definita «esplosione dell’intelligenza». È uno scenario ipotetico, non la prova che i sistemi attuali si stiano già migliorando autonomamente senza guida umana. La questione concreta, per chi deve fare le regole, è misurare e governare il ruolo crescente dell’IA nello sviluppo di nuova IA. 114

Come potrebbe accelerare la ricerca

I sistemi di IA possono contribuire alle attività necessarie per sviluppare nuovi modelli. Se questo aiuto porta a sistemi più capaci, che a loro volta svolgono una parte maggiore del lavoro di ricerca, ogni ciclo potrebbe rendere più rapido quello successivo. È il meccanismo chiamato miglioramento ricorsivo: l’IA contribuisce a migliorare il processo con cui viene costruita l’IA. 15

La preoccupazione riguarda soprattutto il ritmo. In uno scenario riportato a proposito del documento, progressi che normalmente richiederebbero un anno potrebbero concentrarsi in poche settimane. È una previsione, non un risultato misurato: le fonti non dimostrano che si sia già raggiunta questa velocità. 314

Una ricerca precedente, basata su interviste a 25 esperti di laboratori di frontiera e del mondo accademico, ha rilevato che molti si aspettavano che l’IA arrivasse ad automatizzare la ricerca sull’IA, creando un circolo di accelerazione. Questo aiuta a capire perché l’ipotesi sia presa sul serio nel settore, ma non dimostra che un’«esplosione dell’intelligenza» sia inevitabile. 1

Che cosa chiedono ai responsabili politici

La richiesta più immediata è fare luce su quanto le aziende utilizzino l’IA nelle attività di ricerca e sviluppo. Più di 20 ricercatori e dirigenti del settore hanno invitato i responsabili politici a esaminare i progressi dell’automazione e a valutare possibili misure di tutela. 2

È importante distinguere l’appello da una prova di perdita di controllo: non dimostra che i laboratori abbiano già affidato all’IA la ricerca al posto delle persone. Informazioni più precise su dove e come venga impiegata potrebbero aiutare a capire se le regole esistenti siano sufficienti, man mano che i sistemi assumono un ruolo più ampio nello sviluppo. 23

Rallentare lo sviluppo: l’obiettivo e i nodi pratici

Un rallentamento coordinato potrebbe lasciare più tempo per test di sicurezza, valutazioni indipendenti e controlli più solidi, prima che le capacità dei sistemi cambino ancora. Ricercatori di OpenAI e Anthropic hanno chiesto pubblicamente di procedere più lentamente; altri esponenti del settore preferiscono un approccio più affidato alle dinamiche di mercato. Non c’è quindi un consenso su quanto rallentare né su che cosa comporterebbe, in concreto, una pausa. 818

Restano anche domande operative: quali sistemi o attività rientrerebbero nell’accordo? Chi ne controllerebbe il rispetto? E come si potrebbe coordinare una pausa tra aziende concorrenti? Le ricostruzioni disponibili osservano che non sono ancora chiari né il significato concreto di una pausa né i modi per farla rispettare.

Un «interruttore d’emergenza» per l’IA?

Brad Smith, presidente di Microsoft, ha sostenuto che chi sviluppa i modelli, chi fornisce l’infrastruttura cloud e chi gestisce gli agenti di IA dovrebbe poter spegnere i sistemi. L’idea è quella di un possibile freno d’emergenza, non di un sostituto alla prevenzione o alla supervisione continua.

Anche un meccanismo di spegnimento, però, ha dei limiti. I sistemi di IA possono funzionare su infrastrutture distribuite e un singolo interruttore non garantisce che ogni componente si fermi. Gli esperti indicano quindi la necessità di monitoraggio costante e intervento umano.

Il nodo del ruolo delle aziende

Affidare compiti di controllo a sviluppatori e fornitori di servizi cloud apre una questione di governance: le stesse aziende possono contribuire alla supervisione e, allo stesso tempo, costruire o ospitare i sistemi. Microsoft sviluppa modelli di IA ed è anche un fornitore cloud, come mostrano le dichiarazioni di Smith. Questa sovrapposizione rende importanti controlli indipendenti e regole chiare; da sola, non dimostra che la posizione di un’azienda sulla sicurezza sia insincera. 2

C’è poi il problema del coordinamento. I dirigenti del settore sono divisi sul ritmo dello sviluppo e le proposte di rallentamento arrivano in un contesto di forte competizione per realizzare e distribuire l’IA. Per una singola azienda potrebbe essere difficile mantenere una limitazione volontaria se le altre continuassero ad avanzare rapidamente. Le fonti documentano il disaccordo e la pressione competitiva, ma non dimostrano che gli interessi d’investimento determinino le opinioni dei singoli ricercatori. 1218

Per i responsabili politici, le questioni sono dunque due: tenere traccia del ruolo dell’IA nello sviluppo di altra IA e fare in modo che le misure di sicurezza siano verificabili, non affidate soltanto alle rassicurazioni delle aziende. Gli avvertimenti giustificano un esame attento, ma non stabiliscono quanto sia probabile un’accelerazione estrema né quale risposta normativa funzionerebbe meglio. 123