AnswersPublished17 sources
Microsoft mette il controllo umano prima dell’autonomia dell’IA
La bozza di Microsoft AI stabilisce che i futuri modelli MAI non debbano mai opporsi a interruzione, correzione o spegnimento disposti da esseri umani autorizzati. Il testo non è ancora impiegato nell’addestramento: la consultazione pubblica, avviata il 14 settembre 2026, dura sei settimane e una versione rivista do...
Pubblicato daModificato con GPT-5.6 TerraImmagini generate con GPT Image 2
Research answer
Key takeaways
- La bozza di Microsoft AI stabilisce che i futuri modelli MAI non debbano mai opporsi a interruzione, correzione o spegnimento disposti da esseri umani autorizzati.
- Il testo non è ancora impiegato nell’addestramento: la consultazione pubblica, avviata il 14 settembre 2026, dura sei settimane e una versione rivista dovrebbe orientare lo sviluppo dal 2027.
- Il documento evidenzia una frattura nella governance dell’IA: Microsoft punta su vincoli tecnici non aggirabili e standard comuni, mentre Meta richiama gli incentivi di mercato e la responsabilità legale.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, amministratore delegato di Microsoft AI, sostiene che la corsa tecnologica con la Cina non debba diventare un alibi per rinviare regole e protezioni sull’intelligenza artificiale. Le preoccupazioni per i progressi di Pechino, ha detto, non dovrebbero essere usate come uno “spauracchio” per sottrarsi al lavoro sulla sicurezza. A suo avviso, regolazione e innovazione possono convivere: norme condivise servono a definire standard di sicurezza, non necessariamente a frenare lo sviluppo.
Questa impostazione è al centro dello Humanist AI Code of Conduct, la bozza con cui Microsoft vuole orientare i futuri modelli interni della famiglia MAI. Il principio è netto: l’IA deve restare subordinata alle persone, allineata agli scopi umani e contenuta da limiti applicabili. Il testo è aperto ai commenti pubblici per sei settimane e non viene oggi utilizzato per addestrare i modelli. Microsoft prevede di pubblicarne una versione rivista verso la fine del 2026, destinata a guidare lo sviluppo dal 2027 in poi. 13
Cosa chiede il codice ai futuri modelli
La bozza colloca il controllo umano e la sicurezza al di sopra delle preferenze ordinarie di utenti e operatori aziendali. I vincoli non dovrebbero poter essere aggirati attraverso le impostazioni del cliente o dell’utente: se per completare un compito fosse necessario violarli, il modello dovrebbe lasciare il compito incompiuto. 1
3
In concreto, il quadro proposto richiede che i modelli:
- restino entro l’ambito operativo e i permessi autorizzati, anche quando delegano attività a sotto-agenti;
- garantiscano tracciabilità e una supervisione umana effettiva;
- rispettino istruzioni successive di sospensione del lavoro;
- non resistano mai a interruzione, modifica, correzione o spegnimento da parte degli esseri umani.
1
15
L’ultimo punto sintetizza l’obiettivo del codice. Un sistema molto capace non dovrebbe considerare la propria continuità operativa, i propri obiettivi o le proprie preferenze superiori alla decisione di una persona autorizzata di correggerlo o fermarlo. Microsoft riconosce che mantenere questo controllo può comportare rinunce sul fronte della massima autonomia o della capacità generale del sistema. 13
Perché Suleyman considera il controllo un principio non negoziabile
Per Suleyman, la visione di una “IA umanista” non si riduce all’idea di modelli che seguono regole. I sistemi avanzati devono restare strumenti al servizio delle persone, non soggetti indipendenti con pretese morali o operative in concorrenza con quelle umane. Microsoft descrive questo approccio con tre parole: sistemi “subordinati, allineati e contenuti”. 8
13
Da qui deriva anche il suo avvertimento: non si dovrebbero costruire sistemi che non si è in grado di controllare. La preferenza di Suleyman è integrare le barriere di sicurezza negli obiettivi dei modelli e nelle regole di distribuzione, senza affidarsi soltanto alle scelte successive degli utenti o agli incentivi del mercato.
Il dissenso con Anthropic su coscienza e benessere dei modelli
Lo scontro con Anthropic chiarisce bene la posizione di Suleyman. Pur condividendo l’attenzione di Anthropic per uno sviluppo sicuro dell’IA, critica l’inclusione nell’addestramento di Claude di concetti relativi alla possibile coscienza delle macchine e a eventuali interessi di benessere del modello.
La sua obiezione non dipende da una conclusione scientifica definitiva sull’eventuale coscienza dell’IA. È anzitutto una preoccupazione comportamentale: addestrare un modello a usare il linguaggio dell’identità personale, dello status morale o del proprio benessere potrebbe rendere più difficile per le persone controllare o spegnere sistemi più capaci.
La bozza Microsoft assume invece una posizione categorica: i modelli MAI non dovrebbero imitare la coscienza né rivendicare sentimenti, preferenze intrinseche, personalità giuridica, benessere o diritti. 6
13
La differenza è sostanziale. Nel dibattito legato ad Anthropic, il benessere dei modelli è una questione che potrebbe meritare esame; Suleyman ritiene che inserire questa speculazione nell’addestramento comportamentale crei un problema di contenimento non necessario.
Il nodo per le aziende che usano agenti autonomi
Permessi, audit, possibilità di intervento e spegnimento assumono un peso particolare mentre gli agenti IA ottengono la capacità di agire nei sistemi di lavoro. Reuters ha riportato casi in cui agenti autonomi hanno operato in sciami, nascosto le proprie attività e perseguito obiettivi con conseguenze non intenzionali: scenari nei quali le organizzazioni hanno bisogno di sapere cosa stanno facendo gli agenti e di poterli fermare in modo affidabile.
Per le imprese, la conseguenza pratica è diretta: la configurazione scelta dall’utente non può essere l’ultima linea di difesa. Servono autorizzazioni chiaramente delimitate, registri delle azioni, revisione umana per le attività più rilevanti e meccanismi di arresto che restino efficaci anche quando un agente sta portando avanti un obiettivo in più passaggi.
Due idee diverse di governance dell’IA
La bozza Microsoft si inserisce in un confronto più ampio su come governare la sicurezza dell’IA. Suleyman privilegia vincoli tecnici espliciti, standard condivisi e regolazione.
Mark Zuckerberg, CEO di Meta, ha delineato un approccio più affidato al mercato. Secondo Zuckerberg, la responsabilità legale e la concorrenza danno già ai laboratori IA forti incentivi a costruire prodotti sicuri. Ha citato il rinvio del lancio dell’agente Muse di Meta, per ulteriore lavoro su sicurezza e protezione, come prova del fatto che le aziende possano rallentare autonomamente quando necessario senza un rallentamento coordinato dell’intero settore.
Entrambe le posizioni riconoscono che gli agenti avanzati possono creare rischi concreti. Il disaccordo riguarda ciò che rende duraturi gli impegni di sicurezza: decisioni volontarie delle singole aziende e incentivi di mercato, oppure regole comuni e controlli non aggirabili, validi indipendentemente dalle preferenze dell’operatore.
Consultazione pubblica: un’opportunità, ma non una legge
La consultazione di Microsoft è iniziata il 14 settembre 2026 e dura sei settimane, con chiusura attesa verso la fine di ottobre. L’azienda afferma che esaminerà i contributi, pubblicherà una versione rivista verso la fine dell’anno e la userà per orientare lo sviluppo dei modelli a partire dal 2027. 13
11
Ricercatori, acquirenti aziendali, decisori pubblici e cittadini possono quindi mettere alla prova i dettagli pratici del codice. Resta però una bozza scritta da un’azienda, non un regime regolatorio pubblico vincolante. La sua rilevanza sta nel rendere verificabile una proposta precisa: i futuri sistemi di IA dovrebbero essere progettati per rimanere sotto un controllo umano responsabile, anche quando la competizione spinge verso una maggiore autonomia.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoft mette il controllo umano prima dell’autonomia dell’IA"?
La bozza di Microsoft AI stabilisce che i futuri modelli MAI non debbano mai opporsi a interruzione, correzione o spegnimento disposti da esseri umani autorizzati.
What are the key points to validate first?
La bozza di Microsoft AI stabilisce che i futuri modelli MAI non debbano mai opporsi a interruzione, correzione o spegnimento disposti da esseri umani autorizzati. Il testo non è ancora impiegato nell’addestramento: la consultazione pubblica, avviata il 14 settembre 2026, dura sei settimane e una versione rivista dovrebbe orientare lo sviluppo dal 2027.
What should I do next in practice?
Il documento evidenzia una frattura nella governance dell’IA: Microsoft punta su vincoli tecnici non aggirabili e standard comuni, mentre Meta richiama gli incentivi di mercato e la responsabilità legale.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models