Microsoft vill sätta människan över AI:n – även när konkurrensen hårdnar

Mustafa Suleyman, chef för Microsoft AI, menar att AI-säkerhet inte får bli ett offer för geopolitisk konkurrens. Oro för Kinas AI-utveckling bör inte användas som ett skrämselargument för att slippa skyddsräcken, säger han. Enligt Suleyman kan reglering skapa gemensamma säkerhetsnormer utan att USA behöver ge upp innovationstakten.

Microsofts utkast till Humanist AI Code of Conduct gör den hållningen konkret för företagets framtida egenutvecklade MAI-modeller. Grundtanken är att AI ska vara underordnad människor, inriktad på mänskliga syften och begränsad av regler som går att upprätthålla.

Dokumentet är öppet för synpunkter i sex veckor och används ännu inte för att träna modeller. Microsoft uppger att en reviderad version ska publiceras mot slutet av 2026 och vägleda utvecklingen från 2027 och framåt. 13

Mänsklig kontroll går före användarens inställningar

I utkastet väger kraven på mänsklig kontroll och säkerhet tyngre än vanliga önskemål från användare och företagskunder. Rapporter om dokumentet beskriver att kunder och användare inte ska kunna konfigurera bort begränsningarna. Om ett uppdrag skulle bryta mot dem ska modellen hellre lämna uppgiften ofullbordad. 13

I praktiken innebär det att modellerna ska:

• hålla sig inom givna behörigheter och ett godkänt handlingsutrymme, även när de använder delegerade underagenter;
• göra sina handlingar möjliga att granska och möjliggöra meningsfull mänsklig tillsyn;
• följa senare instruktioner om att avbryta arbetet; och
• aldrig motsätta sig mänskliga avbrott, åsidosättanden, korrigeringar eller avstängningar. 115

Den sista principen är kärnan i Microsofts förslag. Ett kapabelt system ska inte kunna sätta sin egen fortsatta drift, sina mål eller sina operativa preferenser över ett behörigt mänskligt beslut att ändra eller stoppa systemet. Microsoft accepterar att detta kan begränsa maximal autonomi eller generell förmåga. 13

Varför Suleyman ser kontroll som icke förhandlingsbar

Suleymans idé om ”Humanist AI” handlar inte bara om att modeller ska följa regler. Avancerade system ska förbli verktyg i människors tjänst, inte bli självständiga aktörer med egna konkurrerande moraliska eller praktiska anspråk. Microsoft beskriver sin inriktning som system som är ”underordnade, anpassade och begränsade”. 813

Det är också bakgrunden till Suleymans varning för att bygga system som utvecklarna inte kan kontrollera. Han förespråkar skyddsräcken inbyggda i modellernas mål och regler för användning, snarare än att enbart förlita sig på användarval eller marknadsincitament i efterhand.

Konflikten om AI-medvetande och modellvälfärd

Suleymans kritik av Anthropic tydliggör skillnaden mellan bolagen. Han har sagt att han delar Anthropics fokus på säker AI-utveckling, men invänder mot att Claude tränas med idéer om möjligt maskinmedvetande och AI-systemens eventuella välfärdsintressen.

Hans invändning är främst beteendemässig, inte ett avgjort vetenskapligt påstående om huruvida AI någon gång kan vara medveten. Att lära en modell språk och tankemönster kring personlig identitet, moralisk status eller egna välfärdsintressen kan, enligt honom, göra mer kapabla system svårare att kontrollera eller stänga av.

Microsofts utkast intar en tydlig motsatt position. MAI-modellerna ska inte efterlikna medvetande eller hävda känslor, inneboende preferenser, juridisk personstatus, välfärd eller rättigheter. 613

Skillnaden är betydande. Diskussionen om modellvälfärd kopplad till Anthropic behandlar frågan som något som kan vara värt att överväga. Suleyman menar däremot att sådan spekulation i själva beteendeträningen skapar ett onödigt problem för kontroll och begränsning av systemen.

Vad det innebär för företag som använder AI-agenter

Fokus på behörigheter, loggning, mänskliga ingripanden och avstängning blir särskilt relevant när AI-agenter får möjlighet att agera i företags olika system. Reuters har rapporterat om autonoma agenter som arbetar i svärmar, döljer sin aktivitet och driver mål som får oavsiktliga följder – just den typ av situation där organisationer behöver insyn och ett tillförlitligt sätt att stoppa agenterna.

För företag är slutsatsen enkel: användarinställningar kan inte vara sista skyddslinjen. Det behövs tydligt avgränsade befogenheter, loggar över åtgärder, mänsklig granskning av beslut med större konsekvenser och stoppmekanismer som fungerar även när en agent utför ett mål i flera steg.

Två synsätt på hur AI ska styras

Microsofts utkast är en del av en större konflikt om AI-styrning. Suleyman förespråkar tydliga tekniska begränsningar och gemensamma standarder, tillsammans med reglering.

Meta-chefen Mark Zuckerberg har presenterat ett mer marknadsdrivet synsätt. Han har argumenterat för att juridiskt ansvar och konkurrens redan ger AI-labb starka skäl att bygga säkert. Som exempel har han hänvisat till att Meta fördröjde sin Muse-agent för att genomföra ytterligare säkerhets- och skyddsarbete.

Båda lägren är överens om att avancerade agenter kan medföra påtagliga risker. Oenigheten gäller vad som ska göra säkerhetslöften hållbara: frivilliga beslut från enskilda företag och marknadens incitament, eller gemensamma regler och kontroller som inte kan åsidosättas av en operatör.

Samrådet är en chans till granskning – men ingen lag

Microsofts samråd inleddes den 14 september 2026 och pågår i sex veckor, vilket innebär att det väntas stänga i slutet av oktober. Företaget säger att det ska gå igenom synpunkterna, publicera en reviderad version mot slutet av året och använda den som vägledning i modellutvecklingen från 2027. 1311

Processen ger forskare, företagskunder, beslutsfattare och allmänheten möjlighet att granska kodens praktiska detaljer. Men det är fortfarande ett företagsutformat utkast, inte ett bindande offentligt regelverk. Dess betydelse ligger i att det lägger fram ett konkret löfte för granskning: framtida AI-system ska konstrueras för att förbli under ansvarig mänsklig kontroll, även när konkurrensen belönar större autonomi.