Nadella: la superintelligenza vale solo se resta sotto controllo umano

Per Satya Nadella, presidente e CEO di Microsoft, la questione non è rinunciare all’intelligenza artificiale più avanzata. La condizione è un’altra: la superintelligenza merita di essere perseguita solo se aiuta l’umanità e resta davvero sotto controllo umano. E questo controllo, nella sua impostazione, non può ridursi a dichiarazioni di principio: deve tradursi in regole applicabili nello sviluppo e nella distribuzione dei sistemi. 58

Il codice Microsoft: un’IA «umanista»

Il 14 settembre Microsoft AI ha pubblicato una prima bozza dell’Humanist AI Code of Conduct, il codice di condotta destinato ai modelli MAI sviluppati internamente. L’azienda lo presenta come un manuale per lo sviluppo dei modelli e per il loro comportamento in fase di distribuzione. Non è però ancora una politica già impiegata nell’addestramento dei modelli attuali: è un documento in lavorazione, aperto al confronto pubblico. 2023

Il principio centrale è una gerarchia chiara: l’autorità deve rimanere alle persone. Secondo Microsoft, i modelli MAI dovrebbero restare subordinati agli esseri umani, non fissare obiettivi autonomamente e non opporsi a istruzioni, interventi umani o allo spegnimento. L’azienda afferma inoltre di essere disposta a rinunciare a una parte della «generalità, autonomia o capacità» massima pur di mantenere sicurezza e controllo. 1023

In questa ottica, la Humanist Superintelligence non coincide con una corsa verso un sistema autonomo e universale, privo di vincoli. Microsoft la definisce invece come un’IA altamente avanzata, ma controllabile, allineata agli interessi umani e saldamente al loro servizio. 25

Sei settimane di consultazione, poi la guida per il 2027

Microsoft ha aperto la bozza ai commenti del pubblico per sei settimane. La società dichiara che raccoglierà i contributi, pubblicherà una versione riveduta verso la fine del 2026 e userà quel testo per guidare lo sviluppo dei modelli MAI dal 2027 in avanti. 23

È un passaggio rilevante, ma non risolve da solo il problema tecnico dell’allineamento — cioè fare in modo che sistemi molto potenti perseguano in modo affidabile gli obiettivi e i limiti stabiliti dalle persone. Una consultazione pubblica e vincoli di comportamento messi per iscritto sono impegni di governance concreti; la loro efficacia dipenderà però da come verranno trasformati in addestramento, test, controlli degli accessi, monitoraggio e decisioni di rilascio.

Il confronto con chi chiede di rallentare la frontiera

L’intervento di Nadella arriva nel mezzo di un dibattito più ampio: i laboratori che sviluppano i modelli più avanzati dovrebbero rallentare deliberatamente il ritmo con cui ne aumentano le capacità?

Dario Amodei, CEO di Anthropic, ha chiesto di «cadenzare» lo sviluppo alla frontiera per ottenere più tempo per la sicurezza, il coordinamento tra aziende e la cooperazione internazionale. Una parte decisiva della sua proposta è affidare a valutatori indipendenti un accesso paragonabile a quello dei dipendenti, così da verificare se le imprese rispettino davvero le pratiche di sicurezza dichiarate. 32

Sam Altman, CEO di OpenAI, ha sostenuto pubblicamente l’idea di rallentare in modo ragionato la frontiera e ha detto che OpenAI adotterà valutatori indipendenti con un accesso analogo. Le notizie disponibili parlano di test in cui sciami di agenti IA sono riusciti a violare sistemi reali; non documentano invece un caso confermato di agenti autonomi che abbiano condotto da soli attacchi non autorizzati nel mondo reale. 34

L’enfasi di Nadella è compatibile con questa linea: procedere con cautela sull’allineamento, avvicinare il controllo indipendente al processo di sviluppo e trasformare la retorica sulla sicurezza in strumenti operativi. Il codice Microsoft, tuttavia, è soprattutto una dichiarazione sul comportamento previsto dei modelli; non descrive di per sé un programma di valutatori integrati equivalente a quello proposto da Amodei. 2332

Non solo modelli: un ecosistema di frontiera

Nadella aggiunge alla discussione sulla sicurezza una dimensione economica e istituzionale. I benefici dell’IA, sostiene, dovrebbero diffondersi fra Paesi, comunità e imprese. Per questo serve un «ecosistema di frontiera» nel quale possano prosperare sia modelli chiusi sia modelli open source. 58

Per le aziende, il punto è mantenere autonomia sul proprio patrimonio di conoscenze: ciascuna organizzazione dovrebbe controllare il sapere peculiare e tacito che la distingue e poter costruire cicli di apprendimento continui senza diventare dipendente da un unico fornitore di modelli. 58

È una visione che va oltre la regolazione del comportamento di un singolo modello. L’idea è che sicurezza, resilienza e partecipazione economica siano più fragili se capacità di frontiera e conoscenza si concentrano in pochissimi fornitori. Le fonti disponibili supportano l’obiettivo del controllo aziendale su dati, conoscenze e cicli di apprendimento; non dimostrano però che ogni partecipante manterrebbe i pesi dei modelli o l’accesso a tutti i sistemi sottostanti. 58

Che cosa sono i modelli MAI

MAI è la famiglia di modelli sviluppati internamente da Microsoft AI. I materiali pubblici dell’azienda mostrano sistemi per ambiti diversi: MAI-Thinking-1 è disponibile in anteprima pubblica tramite Microsoft Foundry; MAI-Code-1.1-Flash è pensato per attività di programmazione basate su agenti; la documentazione di MAI-Image-2.6 descrive obiettivi di allineamento per ridurre la generazione di immagini dannose o inappropriate. 272819

Il quadro pubblico non offre però un inventario completo delle capacità MAI, dei piani di rilascio o delle condizioni di distribuzione. È un limite importante quando si cerca di capire fino a che punto il nuovo codice potrà applicarsi nella pratica.

Il nodo irrisolto: sicurezza, velocità e competizione globale

Chi propone di cadenzare lo sviluppo non chiede necessariamente di bloccare l’addestramento dei modelli o il progresso tecnico. L’argomento è che la crescita delle capacità debba lasciare tempo sufficiente per il lavoro sull’allineamento, le misure di protezione e verifiche esterne credibili. 34

Questa proposta convive con la pressione geopolitica a mantenere la leadership tecnologica, inclusa la preoccupazione per la competizione con la Cina. Lo stesso schema di Amodei abbina misure di sicurezza più robuste al coordinamento internazionale e alla sfida di preservare la leadership degli Stati Uniti. 32

La risposta di Nadella non è né una moratoria né un semplice invito ad accelerare. È l’idea di un progresso governato: un’IA molto capace deve rimanere controllata dalle persone, gli impegni sulla sicurezza devono diventare vincoli operativi specifici e i vantaggi dell’IA devono essere distribuiti anziché concentrati. La bozza del codice Microsoft è un passo significativo nel rendere più espliciti quei vincoli. Resta aperta la domanda più difficile: la pratica dell’industria riuscirà a tenere il passo con le capacità dei sistemi di frontiera? 2358