Sam Altman lancia due allarmi sull’IA: perdita di controllo e potere concentrato

Per Sam Altman, CEO di OpenAI, l’intelligenza artificiale può fallire in due modi molto diversi: l’umanità potrebbe perdere il controllo di sistemi sempre più capaci, oppure quel controllo potrebbe concentrarsi nelle mani di pochissimi. Il suo avvertimento mette sullo stesso piano sicurezza tecnica e governance: non conta solo ciò che i modelli sanno fare, ma anche chi può dirigerli. 1316

I due scenari che Altman vuole evitare

Il primo è la perdita del controllo umano. Altman ha avvertito che l’umanità potrebbe «perdere il controllo del futuro a favore dell’IA», un esito che considera inaccettabile. Il principio da lui indicato è che l’IA debba servire le persone, non rendere le persone dipendenti da sistemi che non riescono a sorvegliare in modo adeguato. 216

Il secondo è la concentrazione del potere. Altman mette in guardia da un mondo in cui un sistema di IA straordinariamente potente sia controllato da una sola persona, impresa o nazione e venga usato per imporre a tutti una particolare visione del mondo. A suo giudizio, il risultato potrebbe essere «estremamente distopico». 113

I rischi sono collegati, ma non coincidono. Il primo riguarda la capacità degli esseri umani di comprendere, vincolare e disattivare sistemi molto potenti. Il secondo riguarda invece chi esercita l’autorità su sistemi che, almeno in teoria, restano controllabili.

Le garanzie indicate dal CEO di OpenAI

La posizione pubblica di Altman non è un invito a fermare del tutto lo sviluppo dell’IA. Sostiene piuttosto che le capacità dei modelli non debbano superare i progressi nell’allineamento — cioè nel far operare i sistemi in linea con obiettivi e limiti umani — e nel monitoraggio. E ritiene che la concorrenza non possa diventare una giustificazione per lanci irresponsabili. 213

Tra le misure richiamate da Altman figurano:

• Allineamento e monitoraggio al passo con l’aumento delle capacità, così da poter valutare e controllare concretamente ciò che sistemi sempre più avanzati fanno. 213
• Un’IA al servizio delle persone, obiettivo centrale della sua critica al rischio di perdita di controllo. 216
• Requisiti federali coerenti per l’IA di frontiera, ossia i modelli più avanzati, invece di affidarsi soltanto a impegni volontari e frammentati. Il riferimento è al quadro normativo federale degli Stati Uniti. 1316
• Verifiche indipendenti, con auditor esterni indicati come possibile strumento per costruire fiducia pubblica nelle aziende che sviluppano modelli sempre più potenti. 16

In pratica, per i sistemi più capaci dovrebbe valere un onere maggiore: le misure di sicurezza devono essere testate e credibili prima delle decisioni di distribuzione, non aggiunte dopo che le capacità sono già cresciute.

Gli avvertimenti di Anthropic rendono il confronto più netto

Nella stessa settimana, l’ex ricercatore di Anthropic Jacob Coxon ha avvertito che i principali laboratori stavano correndo verso un’IA capace di auto-migliorarsi, «scommettendo sulle nostre vite». Secondo le ricostruzioni della sua uscita dall’azienda, Coxon ritiene che chi costruisce questi sistemi tema seriamente che possano diventare troppo potenti per restare sotto controllo umano. 17

Il tono è più diretto di quello usato da Altman, ma la preoccupazione di fondo si sovrappone: i progressi nelle capacità potrebbero superare la possibilità di supervisionare i sistemi in modo affidabile. In uno scambio pubblico riportato dai media, Evan Hubinger, responsabile dell’allineamento in Anthropic, ha espresso una stima personale superiore al 10% sulla possibilità che l’IA causi l’estinzione umana entro dieci anni e ha riconosciuto che non esiste ancora una soluzione completa al problema dell’allineamento della superintelligenza. Si tratta di una valutazione individuale, non di una previsione consolidata né di una probabilità scientificamente accertata. 17

Il punto non è che sia stata dimostrata una specifica tempistica di estinzione: non lo è stata. È che ricercatori vicini allo sviluppo dei modelli di frontiera discutono pubblicamente se le pratiche di sicurezza stiano avanzando abbastanza rapidamente rispetto ai sistemi in costruzione.

Il vero dissenso: prima le capacità o prima la sicurezza?

La divisione emergente viene spesso descritta come uno scontro tra chi accelera e chi vuole rallentare l’IA, ma è una formula incompleta. La maggior parte degli attori riconosce i potenziali benefici della tecnologia. Il disaccordo riguarda soprattutto tempi e obbligatorietà delle garanzie.

Secondo una posizione, lo sviluppo di frontiera va scandito in modo da lasciare il tempo alla maturazione di ricerca sulla sicurezza, valutazioni, governance e risposte agli abusi. Dario Amodei, CEO di Anthropic, ha chiesto di rallentare il ritmo con cui crescono le capacità e ha proposto valutatori indipendenti integrati nelle aziende, coordinamento tra i laboratori di frontiera e cooperazione internazionale.

La pressione contraria è concreta: imprese e governi temono che muoversi più lentamente dei concorrenti significhi perdere vantaggio economico o geopolitico. Ma Altman sostiene che la competizione non può giustificare capacità che procedono più velocemente dell’allineamento e del monitoraggio. 13

Reuters ha riferito che alcuni ricercatori ritengono che le capacità dei modelli stiano arrivando più in fretta del previsto, mentre diminuiscono la visibilità umana sul loro funzionamento e, potenzialmente, la possibilità di controllarli. Da qui la domanda centrale per chi deve definire le regole: i laboratori dovrebbero continuare a distribuire modelli via via più autonomi mentre le protezioni recuperano terreno, oppure dovrebbero prima dimostrare che tali protezioni sono sufficienti?

Cosa implica per la governance dell’IA

I due avvertimenti di Altman indicano che la governance dell’IA di frontiera deve affrontare sia il controllo tecnico sia la distribuzione del potere. Valutazioni migliori dei modelli, ricerca sull’allineamento, monitoraggio e supervisione indipendente rispondono al primo problema. Regole coerenti, trasparenza e limiti al controllo unilaterale rispondono al secondo.

Né le previsioni catastrofiche né le scadenze precise dovrebbero essere considerate fatti acquisiti. Tuttavia, la gravità potenziale di un fallimento spiega perché richieste di valutazioni più solide, controlli esterni e requisiti di sicurezza siano passate da tema di nicchia a questione centrale per l’industria dell’IA. 13