Shane Legg avverte: l’IA non può correre più veloce dei controlli di sicurezza

Shane Legg, cofondatore di Google DeepMind, lancia un avvertimento netto: le capacità dell’intelligenza artificiale non devono avanzare più rapidamente dei controlli necessari per monitorare e governare sistemi sempre più potenti. Il messaggio accompagna il lancio del DeepMind Institute (DMI), un nuovo spazio dedicato alle conseguenze e alla diffusione dell’intelligenza artificiale generale, o AGI. 141

La questione: capacità e controlli devono crescere insieme

Per Legg il punto non è soltanto quanto i modelli diventino capaci. Conta soprattutto se strumenti di supervisione, monitoraggio, governance e controllo progrediscono a una velocità sufficiente per mantenerli gestibili. 1

È anche per questo che il mandato del nuovo istituto non si limita alla ricerca tecnica. Il DMI punta a stimolare ricerca interdisciplinare, collaborazione e dibattito sulle questioni tecniche e sociali dell’era dell’AGI: da come costruire e governare in sicurezza questi sistemi, fino alle comunità di agenti IA che potrebbero formarsi. 16

Che cos’è il DeepMind Institute

Il DeepMind Institute è una piattaforma di pubblicazione e confronto, non un sostituto dei laboratori di ricerca di Google DeepMind. L’obiettivo è mettere in dialogo ricercatori di Google DeepMind e della comunità scientifica più ampia su come sistemi di IA via via più capaci debbano essere progettati, governati, distribuiti e utilizzati. 3642

L’agenda comprende scienza, istruzione, società, politiche pubbliche, filosofia, economia, sicurezza e benessere umano. In sostanza, il dibattito non riguarda soltanto come ridurre i rischi gravi, ma anche quali istituzioni, politiche e priorità collettive potrebbero dover cambiare qualora l’AGI venisse adottata su larga scala. 1636

Rallentare i modelli di frontiera? «Da prendere in considerazione»

Legg ha definito «interessante nella direzione» e «degna di considerazione» la proposta del CEO di Anthropic, Dario Amodei, di rallentare — senza sospendere — il rilascio dei modelli di IA di frontiera. 2

Non si tratta dell’annuncio di una nuova politica di DeepMind. Le parole di Legg mostrano però che considera il rilascio più cauto dei modelli più avanzati un’opzione seria nel dibattito su come far coincidere la diffusione commerciale con garanzie adeguate. 2

Perché, secondo Legg, è prematuro dire che l’AGI esiste già

Legg ritiene troppo presto affermare che l’AGI sia già stata raggiunta, nonostante recenti dichiarazioni di dirigenti di Nvidia e OpenAI. Le ricostruzioni disponibili non dettagliano tutti i limiti di capacità a cui facesse riferimento; la conclusione più solida è quindi che, per Legg, i sistemi attuali non soddisfano ancora la soglia di AGI adottata da DeepMind. 4

Google DeepMind descrive l’AGI come un sistema dotato delle capacità cognitive del cervello umano. È uno standard molto più ampio dell’eccellere in specifici benchmark o in singoli compiti. 13

Allo stesso tempo, Legg ha detto di restare «a suo agio» con la sua previsione di lunga data: il 50% di probabilità di raggiungere un’AGI “minima” entro il 2028. È una stima, non una scadenza certa. 210

I primi saggi: dalla trasparenza ai possibili effetti sull’economia

La raccolta di lancio comprende un saggio introduttivo e vari contributi di merito. Tre temi iniziali rendono bene l’ampiezza dell’approccio:

1. Trasparenza del ragionamento — Rohin Shah e Anca Dragan sostengono la necessità di preservare forme di ragionamento interpretabili, utili alle persone per controllare eventuali comportamenti ingannevoli o strategie nascoste dei modelli. 11
2. Politiche economiche per l’AGI — Un saggio esamina 11 possibili politiche per affrontare le potenziali perturbazioni economiche di un’IA sempre più avanzata e diffusa, valutandole anche in base a benessere, resilienza, autonomia e stabilità economica. 39
3. Principi per un nuovo utopismo — Il testo riflette su cosa possa significare il benessere umano in una società plasmata dall’AGI, mettendo in guardia dall’idea di «utopia» come promessa di perfezione. 37

Il sito dell’istituto include inoltre un quarto saggio sostanziale, “A framework for frontier AI and the dawning of a new age”, oltre all’introduzione e ai tre contributi citati. 4138

In sintesi

La posizione di Legg combina urgenza e prudenza. Non considera l’AGI un risultato già conseguito, ma attribuisce ancora una probabilità rilevante — il 50% — all’arrivo di una forma «minima» entro il 2028. Il suo avvertimento va oltre una singola previsione: se le capacità dell’IA accelerano, devono accelerare con esse anche gli strumenti per comprenderla, supervisionarla e orientarne l’impiego. 1216