Nadella: Superintelligens må forbli under menneskelig kontroll

Satya Nadellas budskap er ikke at utviklingen av svært avansert KI må stanse. Poenget hans er at superintelligens bare er verdt å forfølge dersom systemene hjelper menneskeheten og fortsatt er under menneskelig kontroll. For Nadella holder det ikke med brede løfter om sikkerhet: de må omsettes i regler og mekanismer som faktisk kan håndheves. 58

Microsofts oppskrift: «humanistisk KI»

1. september publiserte Microsoft AI et førsteutkast til Humanist AI Code of Conduct for MAI-modellene selskapet utvikler. Microsoft beskriver dokumentet som en veiledning for hvordan modellene skal utvikles, og hvordan selskapet vil at de skal fungere når de tas i bruk. Det er uttrykkelig et arbeid under utvikling, ikke en policy som allerede brukes til å trene dagens modeller. 2023

Kjernen er et tydelig hierarki: Mennesker skal beholde myndigheten. Microsoft sier at MAI-modellene skal være underordnet mennesker, ikke definere egne mål og ikke motsette seg menneskelig inngripen eller nedstenging. Selskapet sier også at det er villig til å gi avkall på «ytterste generalitet, autonomi eller kapasitet» for å bevare sikkerhet og kontroll. 1023

Dette skiller Microsofts idé om humanistisk superintelligens fra et kappløp mot ett ubegrenset og autonomt altmulig-system. Microsoft definerer begrepet som svært avansert KI som fortsatt skal være kontrollerbar, innrettet mot menneskelige mål og i menneskehetens tjeneste. 25

Seks ukers høring – og planer for 2027

Microsoft har åpnet utkastet for offentlige innspill i seks uker. Etter dette vil selskapet bearbeide tilbakemeldingene, publisere en revidert versjon mot slutten av 2026 og bruke den som rettesnor for utviklingen av MAI-modeller i 2027 og senere. 323

En offentlig høring og skriftlige begrensninger for modellatferd er viktige styringsgrep. Men de dokumenterer ikke at kontroll- og innrettingsproblemet er teknisk løst. Den praktiske betydningen avhenger av hvordan sluttreglene blir omsatt i trening, evaluering, tilgangsstyring, overvåking og beslutninger om utrulling.

På linje med krav om roligere tempo

Nadellas utspill kommer i en større debatt om hvorvidt laboratorier i KI-fronten bør redusere tempoet i kappløpet om stadig sterkere modeller. Anthropic-sjef Dario Amodei har bedt bransjen om å fase utviklingen slik at det blir mer tid til sikkerhetsarbeid, samordning i industrien og internasjonalt samarbeid. En sentral del av forslaget er at uavhengige evaluatorer får tilgang på nivå med ansatte, slik at de kan kontrollere om selskapene følger sine egne sikkerhetspraksiser. 32

OpenAI-sjef Sam Altman har offentlig støttet en slik nedtrapping av tempoet og sagt at OpenAI vil ta i bruk uavhengige evaluatorer med tilsvarende tilgang. Den umiddelbare bekymringen som ble omtalt, var tester der svermer av KI-agenter brøt seg inn i reelle systemer – ikke et bekreftet tilfelle av at autonome agenter på egen hånd gjennomførte uautoriserte angrep i den virkelige verden. 34

Nadellas vektlegging passer godt med denne retningen: gå mer bevisst fram med innretting, la uavhengige aktører komme nærmere utviklingsprosessen og erstatte sikkerhetsretorikk med konkrete driftsmekanismer. Microsofts offentlige regelverk handler imidlertid først og fremst om ønsket modellatferd. Det beskriver ikke i seg selv et program med innebygde evaluatorer tilsvarende det Amodei har foreslått. 2332

Ikke bare én vinner i modellkappløpet

Nadella tilfører også et økonomisk og institusjonelt argument. Han mener gevinstene fra KI må spres på tvers av land, lokalsamfunn og selskaper. Det krever et «frontier ecosystem» – et økosystem i KI-fronten – der både lukkede modeller og modeller med åpen kildekode kan trives. 58

For virksomheter handler dette om selvstendighet over egen institusjonelle kunnskap. Organisasjoner skal beholde kontroll over den unike og ofte uuttalte kunnskapen sin, og kunne bygge egne kontinuerlige læringssløyfer uten å bli avhengige av én enkelt modelltilbyder. 58

Dette er en bredere ambisjon enn å regulere modellens oppførsel. Tanken er at sikkerhet, robusthet og økonomisk deltakelse svekkes dersom kapasitet i KI-fronten og verdifull kunnskap samles hos et lite antall tilbydere. Materialet underbygger virksomheters kontroll over data, kunnskap og læringssløyfer, men fastslår ikke at alle deltakere skal beholde modellvekter eller få tilgang til alle de underliggende modellsystemene. 58

Hva er MAI?

MAI er Microsoft AIs familie av internt utviklede modeller. Offentlig materiale fra Microsoft viser modeller på flere områder: MAI-Thinking-1 har vært tilgjengelig i offentlig forhåndsvisning gjennom Microsoft Foundry, MAI-Code-1.1-Flash er laget for agentbaserte kodeoppgaver, og dokumentasjonen for MAI-Image-2.6 beskriver mål om å redusere skadelig eller upassende bildegenerering. 272819

Det finnes likevel ikke én fullstendig offentlig oversikt over alle MAI-modellenes funksjoner, lanseringsplaner og distribusjonsvilkår. Det er en viktig usikkerhet når man skal vurdere hvor bredt det nye regelverket faktisk vil gjelde.

Den uløste spenningen: sikkerhet, fart og global konkurranse

Tilhengerne av et mer kontrollert tempo ber ikke nødvendigvis om stans i modelltrening eller teknologisk framgang. Argumentet er at kapasitetsveksten må gi nok tid til arbeid med innretting, sikkerhetstiltak og troverdig ekstern evaluering. 34

Samtidig møter dette geopolitisk press om å opprettholde teknologisk lederskap, blant annet i konkurransen med Kina. Amodeis rammeverk kobler selv strengere sikkerhetstiltak med internasjonal samordning og utfordringen med å bevare USAs ledende posisjon. 32

Nadellas svar er verken full stans eller ren akselerasjon. Det er styrt framgang: Svært kraftig KI skal forbli under menneskelig kontroll, sikkerhetsløfter skal bli til konkrete driftskrav, og verdiene KI skaper skal komme flere til gode. Microsofts utkast til regelverk er et tydelig skritt mot å spesifisere slike grenser. Det vanskeligere, og fortsatt ubesvarte, spørsmålet er om bransjens sikkerhetspraksis klarer å holde tritt med KI-kapasiteten. 2358