Løbet om at inddæmme AI-agenter: Sådan strammer Microsoft og Nvidia grebet om autonome systemer

Forsvar i dybden efter lag – Microsofts sikkerhedsblog (maj 2026) definerer fire afhjælpningslag: modellaget (træningsdata, finjustering, afvisningsadfærd), sikkerhedssystemlaget (runtime-indholdsfiltrering, sikkerhedsgelændere, logning, observerbarhed), applikationslaget (tilladelser, workflows, eskaleringsstier) og positioneringslaget (transparensdokumentation og UX-oplysninger) . Et senere blogindlæg i juni tilføjer et mere detaljeret firelagsbillede: modellaget, sikkerhedssystemlaget, metaprompt- og forankringslaget samt agentlaget (værktøjsbrugstilladelser og menneske-i-loop-tjek) .

Tenant-niveau godkendelseslister til MCP-servere – Organisationer skal vedligeholde en godkendt liste over MCP-udgivere og -servere (Model Context Protocol). Microsofts MCP-katalog leverer gennemgåede first-party-servere, og alle eksterne komponenter behandles som en del af softwareforsyningskæden. Anbefalingen er at deaktivere "Tillad alle" på MCP-forbindelser og kun aktivere de specifikke værktøjer, en agent har brug for .

SBOM-generering til agentimplementeringer – Software Bill of Materials inklusiv værktøjsafhængigheder med signatur- og oprindelsesverifikation for MCP-servere før installation. Microsoft anbefaler også registreringsscanning for skjulte instruktioner i værktøjsbeskrivelser samt versionsfastlåsning med ændringsovervågning for alle eksterne værktøjsdefinitioner .

Politikbaserede sikkerhedsgelændere – Ud over overvågning kan organisationer anvende politikbaserede kontroller for at fastsætte, hvad agenter må gøre, håndhævet gennem Agent 365 SDK og Windows-politikinfrastruktur . Microsofts Windows Developer Blog udtaler: "Inddæmning begrænser, hvad agenter kan tilgå og gøre, så ikke-deterministisk adfærd ikke oversættes til ukontrollabel risiko" .

Kontrolplan-styring – Centraliseret ejerskab, identitetslivscyklusstyring og compliance-håndhævelse på tværs af alle agenter i en organisation. Microsofts Azure Cloud Adoption Framework anbefaler at etablere en centraliseret og håndhævbar styrings- og sikkerhedsbaseline, der er tilpasset eksisterende identitets-, datastyrings- og sikkerhedspraksisser .

Hvordan disse adresserer sikkerhedsrisici

Frameworket målretter hele angrebskæden – forsyningskædeforgiftning (via godkendelseslister og SBOM'er), privilegieeskalering (via MXC-isolation), dataeksfiltrering (via runtime-sikkerhedsgelændere og indholdsfiltrering) og uautoriseret værktøjsbrug (via tilladelseskontroller og menneske-i-loop-sløjfer) . Microsofts taksonomi over fejltilstande efter et års red teaming af agentsystemer tilføjer zero-trust-interagentarkitektur: For højrisikoscenarier bør agens identitet etableres kryptografisk, ikke antages ud fra position i et workflow .

Bredere industriskift: Aktivt cyberforsvar med strammere kontrol

To store initiativer i midten af 2026 illustrerer industriens skift mod at bruge AI-agenter både offensivt og defensivt i cybersikkerhed, samtidig med at der pålægges strengere sikkerhedsforanstaltninger.

Microsofts Project Perception

Annonceret 27. juli 2026 er Project Perception et agentsikkerhedssystem, der bevæger sig ud over alarmgenerering til kontinuerlig automatiseret handling . Microsoft beskrev det som et "kontinuerligt lærende forsvarssystem", der kan "ræsonnere, prioritere og handle med maskinhastighed, mens mennesker holdes fast i kontrol" .

• Det implementerer tre specialiserede agenttyper – røde agenter (sonderer som angribere), blå agenter (undersøger og prioriterer trusler) og grønne agenter (afhjælper og hærder) – der koordinerer på tværs af hele find-undersøg-fiks-cyklussen . Agenterne deler intelligens gennem orkestrerede workflows, så "et fund bliver til en løsning, proaktivt, uden et hånd-off ved hvert trin" .
• Platformen er bygget på Microsofts første interne cybersikkerhedsmodel, MAI-Cyber-1-Flash, som Microsoft siger "leverer verdensklasseydelse til 50% af omkostningerne ved førende modeller" .
• Microsoft har angiveligt overført en betydelig del af sine egne sikkerhedsoperationer til denne AI-model og reduceret beregningsomkostningerne med cirka 50% .
• Project Perception trådte i offentlig preview den 3. august 2026 og leveres inden i Microsoft Defender . Højpåvirkningshandlinger kræver stadig menneskelig godkendelse .

Hvorfor det er vigtigt: Dette er et konkret eksempel på AI-agenter, der får aktive, autonome roller i cyberforsvar – de sonderer systemer, lapper sårbarheder og reagerer på trusler uden at vente på menneskelig vejledning. Den strammere kontrol kommer fra inddæmningsreglerne ovenfor: Project Perception-agenter opererer stadig i MXC-containere under politikbaserede sikkerhedsgelændere med observerbarhed og menneskelig overvågning .

Nvidias Open Secure AI Alliance (OSAA)

Dannet 27. juli 2026 – få dage efter en opsigtsvækkende hændelse hos Hugging Face, der fremhævede risiciene ved at miste kontrollen over autonome AI-agenter – er OSAA en industrikoalition, der bygger open source-sikkerhedsværktøjer til AI-agenter .

• Grundlæggende medlemmer (37 organisationer): Microsoft, IBM, Cisco, CrowdStrike, Cloudflare, Dell, Hewlett Packard Enterprise, Linux Foundation, Hugging Face, Adobe, Capital One, Salesforce, SAP, SpaceXAI og andre . Bemærkelsesværdigt nok valgte OpenAI og Google at stå udenfor .
• Hurtig vækst: Inden for en uge voksede alliancen til over 120 medlemsorganisationer .
• Vigtige open source-bidrag: Nvidia open sourcede sin NOOA (Nvidia Open Omniverse Agent)-forskningssele, tilgængelig på GitHub, til test, sporing, revision og styring af agentadfærd . Alliancen foreslog også -retningslinjer gennem Linux Foundation til transparent sårbarhedsoplysning og koordineret forsvar .
• Omfang: Værktøjer spænder over hele AI-sikkerhedsstakken – identitet og tilladelser, agentseler, runtime-sikkerhedsgelændere, observerbarhed, evaluering og hændelsesrespons .

Hvorfor det er vigtigt: OSAA repræsenterer en kollektiv industrierkendelse af, at ingen enkelt leverandør kan sikre autonome agenter alene. Alliancens fokus på åbne modeller og delte værktøjer er et bevidst modsvar til lukkede, proprietære tilgange – tesen er, at bredere fællesskabsadgang til sikkerhedsværktøjer vil overgå angriberne . Nvidia udtalte: "Åbne modeller demokratiserer defensive kapaciteter, øger gennemsigtigheden for forsvarere, muliggør cyberforsvar samtidig med at data beskyttes og supplerer frontlinjens lukkede modeller med skræddersyede, lokaliserede kontroller" .

Oversigt: Den dobbelte tendens

Mønsteret er tydeligt: De samme virksomheder, der skubber AI-agenter ind i aktive, autonome cyberforsvarsroller, kappes også om at opbygge de inddæmnings- og styringsstrukturer, der forhindrer agenterne i at blive den næste generation af sikkerhedstrusler.