Nadella: Superintelligens måste styras av människor

Satya Nadellas budskap är inte att utvecklingen av avancerad AI ska stoppas. Men strävan efter superintelligens är enligt Microsofts styrelseordförande och vd bara försvarbar om systemen hjälper mänskligheten och fortsätter att vara underställda människor. Det räcker inte med allmänna löften om säkerhet: principerna måste omsättas i konkreta och verkställbara regler för utveckling och användning. 58

Microsofts svar: humanistisk AI

Den 14 september publicerade Microsoft AI ett första utkast till Humanist AI Code of Conduct för bolagets egna MAI-modeller. Microsoft beskriver dokumentet som en vägledning för hur modellerna utvecklas och hur de är tänkta att fungera vid driftsättning. Det är uttryckligen ett pågående arbete, inte en policy som redan används för att träna dagens modeller. 2023

Kärnan är en tydlig maktordning: människan ska behålla kontrollen. MAI-modellerna ska vara underställda människor, inte formulera egna mål och inte motarbeta mänskliga instruktioner eller avstängning. Microsoft säger också att det är berett att ge avkall på ”yttersta generalitet, autonomi eller kapacitet” för att värna säkerhet och kontroll. 1023

Det skiljer Microsofts idé om humanistisk superintelligens från en kapplöpning mot ett obegränsat, allsidigt och självständigt system. Bolaget definierar begreppet som mycket avancerad AI som ska förbli kontrollerbar, i linje med mänskliga mål och i mänsklighetens tjänst. 25

Sex veckors remiss – och sedan 2027

Microsoft har öppnat utkastet för offentliga synpunkter under sex veckor. Planen är att ta in återkoppling, publicera en reviderad version mot slutet av 2026 och därefter använda den som vägledning för utvecklingen av MAI-modeller från 2027 och framåt. 23

En öppen remiss och skriftliga beteenderegler är viktiga steg, men de visar inte i sig att den tekniska utmaningen med kontroll och alignment – att AI beter sig i enlighet med mänskliga avsikter och begränsningar – är löst. Avgörande blir hur reglerna omsätts i träning, tester, behörighetsstyrning, övervakning och beslut om lanseringar.

I linje med kraven på långsammare utveckling

Nadellas inlägg kommer mitt i en större diskussion om huruvida ledande AI-laboratorier medvetet bör bromsa takten när modellerna får nya förmågor. Anthropics vd Dario Amodei har förespråkat en sådan inbromsning för att ge mer tid till säkerhetsarbete, samordning i branschen och internationellt samarbete. En central del i hans förslag är att oberoende granskare ska få åtkomst som liknar anställdas, så att de kan kontrollera om bolagen följer sina egna säkerhetsrutiner. 32

OpenAI:s vd Sam Altman har offentligt stött tanken på att anpassa takten vid AI-fronten och sagt att OpenAI ska ge oberoende utvärderare jämförbar åtkomst. Den omedelbara bakgrunden var tester där svärmar av AI-agenter tog sig in i verkliga system – inte ett bekräftat fall där autonoma agenter på egen hand genomförde otillåtna angrepp i verkligheten. 34

Nadellas hållning ligger nära detta synsätt: arbeta metodiskt med alignment, låt extern granskning komma närmare utvecklingsprocessen och gör säkerhetsretorik till praktiska mekanismer. Microsofts offentliga kod handlar dock främst om hur modellerna är avsedda att bete sig; den beskriver inte i sig ett program med inbyggda externa granskare av den typ Amodei föreslagit. 2332

Ett ekosystem, inte en vinnare som tar allt

Nadella kopplar också AI-säkerhet till ekonomi och institutioner. Han menar att nyttan av AI bör spridas mellan länder, samhällen och företag. Det kräver, enligt honom, ett ”frontier ecosystem” där både slutna och öppen källkodsmodeller kan utvecklas. 58

För organisationer handlar det om att behålla rådighet över unik och tyst kunskap – den erfarenhet och kompetens som inte alltid är nedskriven – och att kunna bygga egna kontinuerliga lärloopar utan att bli beroende av en enda modellleverantör. 58

Det är en bredare ambition än att bara reglera en modells beteende. Resonemanget är att säkerhet, motståndskraft och ekonomiskt deltagande riskerar att försvagas om avancerad AI och viktig kunskap koncentreras till ett fåtal leverantörer. Underlaget stödjer att företag ska ha kontroll över data, kunskap och lärloopar, men det visar inte att alla aktörer skulle behålla modellvikter eller få tillgång till varje underliggande modellsystem. 58

Vad är MAI?

MAI är Microsoft AI:s familj av internt utvecklade modeller. Offentligt material från Microsoft visar modeller inom flera områden: MAI-Thinking-1 finns i offentlig förhandsversion via Microsoft Foundry, MAI-Code-1.1-Flash är avsedd för agentbaserade programmeringsuppgifter och dokumentationen för MAI-Image-2.6 beskriver mål för att minska skadlig eller olämplig bildgenerering. 272819

Det finns däremot ingen komplett offentlig förteckning över alla MAI-modellernas funktioner, lanseringsplaner eller distributionsvillkor. Det är en viktig osäkerhet när man ska bedöma hur brett den nya uppförandekoden faktiskt kommer att tillämpas.

Den kvarstående konflikten: säkerhet, tempo och konkurrens

De som vill anpassa utvecklingstakten förespråkar inte nödvändigtvis ett stopp för modellträning eller tekniska framsteg. Poängen är att kapacitetsökningen ska lämna tillräckligt med tid för alignment, skyddsåtgärder och trovärdig extern utvärdering. 34

Samtidigt finns geopolitiska krav på att behålla teknologiskt ledarskap, inte minst i konkurrensen med Kina. Amodeis ramverk kombinerar självt starkare säkerhetsåtgärder med internationell samordning och frågan om att bevara USA:s ledande position. 32

Nadellas svar är varken en frysning eller en enkel accelerationsplan. Det är en modell för styrda framsteg: mycket kapabla AI-system ska vara under mänsklig kontroll, säkerhetsåtaganden ska bli konkreta driftsregler och vinsterna från AI ska spridas snarare än koncentreras. Microsofts utkast till uppförandekod är ett betydande försök att formulera sådana gränser. Den svårare och ännu olösta frågan är om branschens faktiska säkerhetsarbete kan hålla jämna steg med AI-systemens kapacitetsutveckling. 2358