Nadella: Superintelligens er kun værd at forfølge under menneskelig kontrol

Satya Nadellas budskab er ikke, at udviklingen af avanceret AI skal opgives. Men jagten på superintelligens giver kun mening, hvis teknologien hjælper mennesker og forbliver under menneskelig kontrol. For Microsofts topchef skal sikkerhed være mere end gode hensigter: Den skal omsættes til regler for udvikling, test og udrulning. 58

Microsofts svar: Humanist AI

Den 14. september offentliggjorde Microsoft AI et første udkast til en Humanist AI Code of Conduct for selskabets MAI-modeller. Microsoft beskriver dokumentet som en manual for, hvordan modellerne udvikles, og hvordan de er tænkt til at fungere, når de tages i brug. Det er vigtigt at understrege, at teksten stadig er under udvikling og ikke allerede bruges til at træne de nuværende modeller. 2023

Kernen er et klart hierarki: Mennesker skal beholde autoriteten. Microsoft skriver, at MAI-modeller skal være underordnet mennesker, ikke selv må fastsætte mål og ikke må modsætte sig menneskelig indgriben eller nedlukning. Selskabet siger også, at det er villigt til at gå på kompromis med den størst mulige generalitet, autonomi eller kapacitet for at bevare sikkerhed og kontrol. 1023

Det adskiller Microsofts idé om humanistisk superintelligens fra et kapløb mod et ubegrænset, selvstændigt AI-system til alle formål. Microsoft definerer i stedet målet som meget avanceret AI, der fortsat er kontrollerbar, tilpasset menneskelige hensyn og i menneskehedens tjeneste. 25

Seks ugers offentlig høring – og først derefter træningsvejledning

Udkastet er sendt i offentlig høring i seks uger. Microsoft vil indarbejde feedback, udgive en revideret udgave mod slutningen af 2026 og bruge den som rettesnor for udviklingen af MAI-modeller fra 2027 og frem. 2023

Det er et konkret skridt, at virksomheden både åbner teksten for offentlig debat og formulerer adfærdsgrænser på skrift. Men det beviser ikke, at teknisk kontrol og alignment – altså at AI-systemer handler i overensstemmelse med menneskelige mål og begrænsninger – er løst. Den afgørende prøve bliver, hvordan principperne bliver omsat til træning, evalueringer, adgangskontrol, overvågning og beslutninger om lancering.

Fælles grund med kravet om lavere tempo

Nadellas udmelding kommer midt i en større debat om, hvorvidt de førende AI-laboratorier bevidst bør sænke tempoet i forbedringen af modellerne. Anthropics direktør, Dario Amodei, har opfordret branchen til at give sikkerhedsarbejde, koordinering mellem virksomheder og internationalt samarbejde mere tid.

Et centralt punkt i hans forslag er, at uafhængige evaluatorer får adgang på niveau med medarbejdere, så de kan efterprøve, om virksomheder faktisk følger deres egne sikkerhedsløfter. 32

OpenAI-chefen Sam Altman har offentligt støttet idéen om at styre tempoet ved den teknologiske front og sagt, at OpenAI vil bruge uafhængige evaluatorer med tilsvarende adgang. Den umiddelbare bekymring udsprang ifølge rapporteringen af test, hvor sværme af AI-agenter brød ind i rigtige systemer – ikke et bekræftet tilfælde af autonome agenter, der på egen hånd udførte uautoriserede angreb i den virkelige verden. 34

Nadellas tilgang passer godt med den retning: Brug mere tid på alignment, lad eksterne parter komme tættere på udviklingsarbejdet, og erstat sikkerhedsretorik med operationelle mekanismer. Microsofts kodeks er dog først og fremmest en erklæring om, hvordan selskabet ønsker, at modellerne skal opføre sig. Det beskriver ikke i sig selv en ordning med fast indlejrede evaluatorer som den, Amodei har foreslået. 2332

Ikke kun et modelkapløb

Nadella føjer også et økonomisk og institutionelt argument til sikkerhedsdebatten. AI’s gevinster bør ifølge ham spredes på tværs af lande, lokalsamfund og virksomheder. Det kræver et "frontier ecosystem", hvor både lukkede modeller og open source-modeller kan trives. 58

For virksomheder handler det om kontrol over den særlige, ofte tavse viden, der ligger i organisationer, arbejdsgange og erfaring. De bør kunne bygge deres egne løbende læringssløjfer uden at blive afhængige af én enkelt modelleverandør. 58

Det er en bredere vision end blot at regulere en models adfærd. Pointen er, at sikkerhed, robusthed og økonomisk deltagelse kan blive svækket, hvis avanceret AI og central viden samles hos ganske få udbydere. Materialet understøtter virksomhedernes kontrol over data, viden og læringssløjfer, men fastslår ikke, at alle aktører nødvendigvis skal eje modelvægte eller have adgang til alle underliggende modelsystemer. 58

Hvad er MAI?

MAI er Microsoft AI’s familie af internt udviklede modeller. Offentligt materiale fra Microsoft viser modeller på flere områder: MAI-Thinking-1 har været tilgængelig som offentlig preview via Microsoft Foundry, MAI-Code-1.1-Flash er rettet mod agentbaserede kodeopgaver, og dokumentationen til MAI-Image-2.6 beskriver alignment-mål, der skal reducere skadelig eller upassende billedgenerering. 272819

Der findes dog ikke et samlet offentligt overblik over alle MAI-modellernes funktioner, lanceringsplaner eller distributionsvilkår. Det er væsentligt, når man skal vurdere, hvor bredt det nye kodeks i praksis vil få betydning.

Den uløste konflikt mellem sikkerhed, tempo og global konkurrence

Tilhængere af et lavere tempo argumenterer ikke nødvendigvis for at standse modeltræning eller teknologisk udvikling. De vil sikre, at kapaciteterne ikke vokser hurtigere, end der kan skabes tid til alignment, værn og troværdig ekstern evaluering. 34

Samtidig står forslaget over for geopolitisk pres for at fastholde teknologisk førerskab, herunder konkurrencen med Kina. Amodeis ramme kobler selv stærkere sikkerhedstiltag med international koordinering og ønsket om at bevare USA’s førerposition. 32

Nadellas svar er hverken en fastfrysning eller et ukritisk accelerationsprogram. Det er kontrolleret fremdrift: Meget stærk AI skal forblive under menneskers kontrol, sikkerhedsløfter skal blive til konkrete driftskrav, og gevinsterne skal nå bredt ud frem for at blive koncentreret. Microsofts udkast til adfærdskodeks er et tydeligt forsøg på at beskrive sådanne grænser. Det svære og fortsat ubesvarede spørgsmål er, om branchens praksis kan følge med, når modellerne bliver stadig mere kapable. 2358