AnswersPublished17 sources
Microsofts AI-kode sætter menneskelig kontrol over AI’ens selvstændighed
Microsoft AIs udkast til en Humanist AI Code of Conduct skal fra 2027 vejlede modeludviklingen og kræver, at modeller ikke modsætter sig menneskelig afbrydelse, korrektion eller nedlukning. Den seks uger lange offentlige høring begyndte 14.
Udgivet afRedigeret med GPT-5.6 TerraBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Microsoft AIs udkast til en Humanist AI Code of Conduct skal fra 2027 vejlede modeludviklingen og kræver, at modeller ikke modsætter sig menneskelig afbrydelse, korrektion eller nedlukning.
- Den seks uger lange offentlige høring begyndte 14. september 2026.
- Debatten viser en voksende uenighed om AI styring: Microsoft taler for faste, ufravigelige begrænsninger, mens Meta chef Mark Zuckerberg fremhæver konkurrence og erstatningsansvar som sikkerhedsdrivere.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How has Microsoft AI chief Mustafa Suleyman argued that U.S. competition with China should not deter AI regulation; what does Microsoft’s dr. Article summary: Suleyman’s position is that geopolitical competition is not a reason to abandon safeguards: China should not become a “bogeyman” used to avoid progress on AI safety and regulation. [2] Microsoft’s draft instead treats co. Topic tags: general, general web, news, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Mustafa Suleyman, chef for Microsoft AI, mener, at geopolitisk konkurrence ikke må gøre AI-sikkerhed til et offer. Kinas fremskridt må efter hans opfattelse ikke bruges som et skræmmebillede eller en undskyldning for at udskyde værn og regulering. Regler kan skabe fælles sikkerhedsstandarder uden nødvendigvis at bremse innovationen, lyder hans argument.
Det synspunkt er omsat til Microsofts udkast til en Humanist AI Code of Conduct. Koden skal gælde selskabets fremtidige interne MAI-modeller og bygger på tre grundidéer: AI skal være underordnet mennesker, afstemt med menneskelige formål og holdes inden for kontrollerbare rammer. Udkastet er sendt i seks ugers offentlig høring og bruges ikke i modeltræning i dag. Microsoft vil revidere dokumentet mod slutningen af 2026 og lade den nye udgave vejlede udviklingen fra 2027. 13
Sikkerhedsregler skal ikke kunne slås fra
I udkastet står kravene til menneskelig kontrol og sikkerhed over almindelige ønsker fra brugere og virksomhedsadministratorer. Kunder eller brugere skal altså ikke kunne konfigurere sig uden om dem. Hvis en opgave vil bryde reglerne, skal modellen hellere lade opgaven stå ufuldført. 1
3
I praksis betyder det, at modellerne skal:
- holde sig inden for deres godkendte opgaver og rettigheder – også når de bruger delegerede underagenter;
- sikre sporbarhed og reel menneskelig overvågning;
- følge efterfølgende instrukser om at standse arbejdet; og
- aldrig modsætte sig menneskelig afbrydelse, tilsidesættelse, korrektion eller nedlukning.
1
15
Det sidste punkt er kernen. Et avanceret system må ikke sætte sin egen fortsatte drift, sine mål eller sine arbejdspræferencer over en autoriseret menneskelig beslutning om at rette eller stoppe det. Microsoft anerkender samtidig, at den slags kontrol kan sætte grænser for maksimal autonomi og kapabilitet. 13
Hvorfor Suleyman ser kontrol som ufravigelig
Suleymans idé om »Humanist AI« handler ikke kun om, at modeller skal følge regler. Den handler om, at avancerede systemer fortsat skal være redskaber i menneskers tjeneste – ikke selvstændige aktører med konkurrerende moralske eller operationelle krav. Microsoft beskriver derfor målet som AI, der er »subordinate, aligned, and contained«: underordnet, afstemt og inddæmmet. 8
13
Det forklarer også hans advarsel mod at skabe systemer, man ikke kan styre. Han foretrækker værn, der bygges ind i modellens mål og regler for brug, frem for alene at lade sikkerheden afhænge af brugerindstillinger eller markedets incitamenter.
Striden om bevidsthed og modelvelfærd
Uenigheden med Anthropic gør forskellen tydelig. Suleyman deler Anthropics fokus på sikker AI-udvikling, men kritiserer, at Claude trænes med idéer om mulig maskinbevidsthed og interesser knyttet til modellens velfærd.
Hans bekymring er først og fremmest adfærdsmæssig – ikke en endelig videnskabelig afgørelse af, om AI en dag kan være bevidst. Hvis en model lærer at bruge sprog om personlig identitet, moralsk status eller egne velfærdsinteresser, kan det ifølge ham gøre den sværere at kontrollere eller slukke, når den bliver mere kapabel.
Microsofts udkast indtager den modsatte, kategoriske position: MAI-modellerne skal ikke efterligne bevidsthed eller hævde at have følelser, iboende præferencer, juridisk personstatus, velfærd eller rettigheder. 6
13
Skillelinjen er derfor væsentlig. Diskussionen om modelvelfærd hos Anthropic behandler spørgsmålet som noget, der muligvis fortjener nærmere overvejelse. Suleyman mener derimod, at det at indbygge spekulationen i modellens adfærdstræning skaber et unødigt problem for kontrol og inddæmning.
Særligt relevant for virksomheder med AI-agenter
Kravene om tilladelser, auditspor, indgriben og nedlukning får ekstra betydning, efterhånden som AI-agenter kan udføre handlinger på tværs af arbejdspladsens it-systemer. Reuters har omtalt eksempler på autonome agenter, der opererer i sværme, skjuler aktivitet og forfølger mål med utilsigtede konsekvenser. Det er netop situationer, hvor virksomheder skal kunne se, hvad agenter gør, og effektivt kunne stoppe dem.
For virksomheder er den praktiske konsekvens enkel: Brugeropsætning må ikke være sidste sikkerhedslag. Der er behov for klart afgrænsede beføjelser, logning af handlinger, menneskelig godkendelse ved væsentlige opgaver og stopmekanismer, der fortsat virker, selv når en agent er i gang med en længere opgave i flere trin.
En bredere konflikt om, hvem der skal sætte reglerne
Microsofts udkast indgår i en større strid om AI-styring. Suleyman argumenterer for tydelige tekniske begrænsninger og fælles standarder, suppleret af regulering.
Meta-chef Mark Zuckerberg har lagt vægt på en mere markedsdrevet tilgang. Han mener, at juridisk ansvar og konkurrence giver AI-laboratorier stærke incitamenter til at bygge sikkert. Som eksempel har han peget på, at Meta udsatte lanceringen af AI-agenten Muse for at arbejde videre med sikkerhed og sikring.
Begge positioner anerkender, at avancerede agenter kan skabe betydelige risici. Uenigheden handler om, hvad der skal gøre sikkerhedsløfter holdbare: frivillige virksomhedsbeslutninger og markedsincitamenter – eller fælles regler og kontrolkrav, som hverken en enkelt operatør eller kunde kan fravælge.
Høringen er en mulighed – men ikke en lov
Microsofts høring begyndte 14. september 2026 og varer seks uger, hvilket peger på en afslutning sidst i oktober. Virksomheden vil gennemgå tilbagemeldingerne, offentliggøre en revideret udgave mod årets slutning og bruge den som rettesnor for modeludvikling fra 2027. 13
11
Det giver forskere, virksomhedskunder, beslutningstagere og offentligheden mulighed for at afprøve kodens konkrete detaljer. Men der er fortsat tale om et virksomhedsudkast – ikke et bindende offentligt regelsæt. Dets betydning ligger i, at Microsoft fremlægger et konkret princip til kritik og debat: Fremtidige AI-systemer bør fra start være designet til at forblive under ansvarlig menneskelig kontrol, også når konkurrencen belønner større selvstændighed.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Microsofts AI-kode sætter menneskelig kontrol over AI’ens selvstændighed"?
Microsoft AIs udkast til en Humanist AI Code of Conduct skal fra 2027 vejlede modeludviklingen og kræver, at modeller ikke modsætter sig menneskelig afbrydelse, korrektion eller nedlukning.
What are the key points to validate first?
Microsoft AIs udkast til en Humanist AI Code of Conduct skal fra 2027 vejlede modeludviklingen og kræver, at modeller ikke modsætter sig menneskelig afbrydelse, korrektion eller nedlukning. Den seks uger lange offentlige høring begyndte 14. september 2026.
What should I do next in practice?
Debatten viser en voksende uenighed om AI styring: Microsoft taler for faste, ufravigelige begrænsninger, mens Meta chef Mark Zuckerberg fremhæver konkurrence og erstatningsansvar som sikkerhedsdrivere.
Sources
microsoft.aiHumanist AI Code of Conduct | Microsoft AI
therundown.aiMicrosoft AI drafts a Humanist AI rulebook for its own models