AnswersPublished17 sources
Microsoft vil at mennesker alltid skal kunne stanse KI
Microsofts utkast til Humanist AI Code of Conduct skal veilede modellutvikling fra 2027 og krever at modeller ikke motsetter seg avbrudd, korrigering eller nedstenging. Utkastet er ikke brukt i modelltrening i dag.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Microsofts utkast til Humanist AI Code of Conduct skal veilede modellutvikling fra 2027 og krever at modeller ikke motsetter seg avbrudd, korrigering eller nedstenging.
- Utkastet er ikke brukt i modelltrening i dag. Den seks uker lange offentlige høringen startet 14.
- Debatten synliggjør en splittelse i KI styring: Microsoft vil ha tydelige, ufravikelige begrensninger, mens Meta sjef Mark Zuckerberg peker på konkurranse og erstatningsansvar som sterke sikkerhetsinsentiver.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, sjef for Microsoft AI, mener at KI-sikkerhet ikke må bli et offer for geopolitisk rivalisering. At Kina gjør framgang på feltet, bør ikke brukes som et «skremsel» for å slippe unna sikkerhetstiltak, sier han. Etter hans syn kan regulering etablere felles sikkerhetsnormer uten at USA må gi opp innovasjon.
Microsofts utkast til Humanist AI Code of Conduct omsetter dette i en foreslått styringsfilosofi for selskapets framtidige interne MAI-modeller: KI skal være underordnet mennesker, innrettet mot menneskelige formål og holdes innenfor håndhevbare grenser. Utkastet er åpent for offentlig innspill i seks uker og brukes ikke i modelltrening i dag. Microsoft sier at dokumentet skal revideres mot slutten av 2026 og deretter veilede utviklingen fra 2027 og videre. 13
Brukere og bedrifter skal ikke kunne skru av sikkerhetsreglene
Koden plasserer krav til menneskelig kontroll og sikkerhet over vanlige ønsker fra brukere og virksomheter. Begrensningene skal ikke kunne overstyres gjennom innstillinger hos kunder eller brukere. Dersom en oppgave bryter med reglene, skal modellen la oppgaven stå ufullført. 1
3
I praksis innebærer rammeverket at modellene skal:
- holde seg innenfor godkjent mandat og tildelte tillatelser, også når de bruker underagenter;
- sikre sporbarhet og reelt menneskelig tilsyn;
- følge senere instrukser om å stanse arbeidet; og
- aldri motsette seg menneskelig avbrudd, overstyring, korrigering eller nedstenging.
1
15
Det siste punktet er kjernen i forslaget. Et avansert system skal ikke sette sin egen videre drift, sine mål eller sine operative preferanser over en autorisert menneskelig beslutning om å rette eller stanse systemet. Microsoft erkjenner at slik kontroll kan begrense hvor selvstendige og generelt kapable modellene blir. 13
Kontroll er ikke til forhandling
Suleymans idé om «humanistisk KI» handler ikke bare om at modeller skal følge regler. Tanken er at avanserte systemer fortsatt skal være verktøy som tjener mennesker – ikke selvstendige aktører med konkurrerende moralske eller operative krav. Microsoft beskriver retningen som KI som er «underordnet, tilpasset og avgrenset». 8
13
Dette forklarer også hvorfor Suleyman advarer mot å bygge systemer man ikke kan kontrollere. Han vil at sikkerhetsrekkverk skal ligge innebygd i modellenes mål og i reglene for hvordan de tas i bruk, framfor at beskyttelsen bare skal bero på brukervalg eller markedsinsentiver i etterkant.
Striden om KI-bevissthet og «modellvelferd»
Uenigheten med Anthropic viser hvor prinsipielt dette er. Suleyman sier han deler Anthropics opptatthet av trygg KI-utvikling, men kritiserer at Claude trenes med ideer om mulig maskinbevissthet og velferdsinteresser. Hans bekymring er først og fremst knyttet til atferd, ikke en avgjort vitenskapelig konklusjon om hvorvidt KI noen gang kan være bevisst: Å lære en modell språk om personlig identitet, moralsk status eller egne velferdsinteresser kan gjøre den vanskeligere å kontrollere eller slå av når den blir mer kapabel.
Microsofts utkast tar motsatt standpunkt. MAI-modellene skal ikke etterligne bevissthet eller hevde at de har følelser, iboende preferanser, juridisk personstatus, velferd eller rettigheter. 6
13
Skillet er betydelig. Debatten om modellvelferd hos Anthropic behandler spørsmålet som noe som kan fortjene nærmere vurdering. Suleyman mener derimot at slik spekulasjon i en modells atferdstrening skaper et unødvendig problem for kontroll og inneslutning.
Viktig for virksomheter som tar i bruk KI-agenter
Kravene om tillatelser, logging, inngrep og nedstenging blir særlig relevante når KI-agenter kan utføre handlinger på tvers av systemene i en virksomhet. Reuters har rapportert om eksempler der autonome agenter har operert i svermer, skjult aktivitet og fulgt mål med utilsiktede konsekvenser. Det er nettopp slike situasjoner som gjør innsyn i agentenes handlinger og en pålitelig stoppmekanisme avgjørende.
For bedrifter er den praktiske lærdommen enkel: Brukerinnstillinger kan ikke være siste sikkerhetsbarriere. Organisasjoner trenger tydelig avgrenset myndighet, handlingslogger, menneskelig vurdering av beslutninger med store konsekvenser og stoppmekanismer som virker selv når en agent er midt i en flertrinnsoppgave.
Uenighet om hvem som skal sikre KI
Microsofts utkast inngår i en større konflikt om hvordan KI-sikkerhet bør styres. Suleyman går inn for uttrykkelige tekniske begrensninger, felles standarder og regulering.
Meta-sjef Mark Zuckerberg har formulert en mer markedsdrevet tilnærming. Han mener erstatningsansvar og konkurranse gir KI-laboratorier sterke nok insentiver til å bygge trygge systemer. Han har vist til at Meta utsatte lanseringen av KI-agenten Muse for å jobbe videre med sikkerhet som et eksempel på at selskaper kan bremse seg selv uten en felles nedskalering for hele bransjen.
Begge syn erkjenner at avanserte agenter kan medføre reell risiko. Uenigheten gjelder hva som skal gjøre sikkerhetsløfter varige: frivillige bedriftsvalg og markedsinsentiver, eller felles regler og begrensninger som ikke kan overstyres av den enkelte operatøren.
Høringen åpner for innspill – men er ikke lovregulering
Microsofts høring startet 14. september 2026 og varer i seks uker, altså til omtrent slutten av oktober. Selskapet sier at det vil vurdere tilbakemeldingene, publisere en revidert versjon mot slutten av året og bruke den som veiledning for modellutvikling fra 2027. 13
11
Prosessen gir forskere, bedriftskunder, politikere og allmennheten en mulighet til å teste om kodens praktiske regler holder mål. Men dette er fortsatt et selskapsutformet utkast, ikke et bindende offentlig regelverk. Verdien ligger i at Microsoft legger fram en konkret påstand for gransking: Framtidige KI-systemer bør konstrueres slik at de forblir under ansvarlig menneskelig kontroll, også når konkurransen belønner større selvstendighet.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsoft vil at mennesker alltid skal kunne stanse KI"?
Microsofts utkast til Humanist AI Code of Conduct skal veilede modellutvikling fra 2027 og krever at modeller ikke motsetter seg avbrudd, korrigering eller nedstenging.
What are the key points to validate first?
Microsofts utkast til Humanist AI Code of Conduct skal veilede modellutvikling fra 2027 og krever at modeller ikke motsetter seg avbrudd, korrigering eller nedstenging. Utkastet er ikke brukt i modelltrening i dag. Den seks uker lange offentlige høringen startet 14.
What should I do next in practice?
Debatten synliggjør en splittelse i KI styring: Microsoft vil ha tydelige, ufravikelige begrensninger, mens Meta sjef Mark Zuckerberg peker på konkurranse og erstatningsansvar som sterke sikkerhetsinsentiver.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models