Nvidia-ledet AI-alliance leverer de første sikkerhedsforslag på én uge

Det Nvidia-ledede Open Secure AI Alliance (OSAA) blev annonceret den 27. juli 2026 med omkring 36-52 stiftende medlemmer og voksede til over 120 virksomheder i løbet af sin første uge . Allerede en uge senere, på Black Hat USA 2026-konferencen den 4. august, præsenterede gruppen sin første store leverance: en dedikeret arbejdsgruppe og et sæt open source-sikkerhedsforslag .

SAFE-arbejdsgruppen

Alliancen etablerede Shared AI Findings Exchange (SAFE)-arbejdsgruppen, som skal udvikle branchestandarder for deling af viden om AI-sikkerhedshændelser . Linux Foundation udgav en Request for Comments (RFC) for SAFE den 4. august 2026 og inviterer nu fællesskabet til at give feedback på udkastet .

SAFE's kernekoncept er en ramme, der gør det muligt for organisationer fortroligt at rapportere og analysere AI-sikkerhedshændelser og næsten-hændelser og derefter dele anonymiserede beskyttelsesforanstaltninger med det bredere økosystem . RFC-arkivet er hostet på github.com/OpenSecureAIAlliance/RFCs .

Open source-forslag til kommentering

De første SAFE-udkast dækker tre hovedområder:

• Fortrolig hændelsesrapportering – et standardiseret format til sikkert at dele detaljer om AI-agentbrud og sårbarheder uden at blotlægge fortrolige data
• Samarbejdende trusselsanalyse – mekanismer til at aggregere hændelsesdata på tværs af medlemmer og skabe fælles forsvarssignaler
• Retningslinjer for agentisk AI-sikkerhed – specifikke regler for autonome AI-agenter, der opererer uden direkte menneskeligt tilsyn og udgør nye risici

Teknologibidrag fra nøglemedlemmer

Flere medlemmer sendte konkrete open source-bidrag samtidig med SAFE-annonceringen:

• Nvidia var medforfatter på SAFE-udkastet og bidrog med model-scannere og agentisoleringsrammer til at opdage sårbarheder i open-weight-modeller
• Red Hat udviklede SAFE-RFC'en sammen med Nvidia og leverede open source-agentstyringsværktøjer til politikhåndhævelse på AI-agenter
• Amazon bidrog med cloud-native sikkerhedsværktøjer til skalering af AI-agentimplementeringer
• Okta leverede identitetssikkerhed og adgangskontrolrammer tilpasset AI-agent-workloads
• Cisco og CrowdStrike var medforfattere på SAFE-udkastet sammen med Nvidia og Red Hat

Linux Foundation administrerer det overordnede initiativ og værtskabet for RFC-processen .

Notable fravær: Anthropic, OpenAI og Google

På trods af at alle tre virksomheder underskrev et åbent brev til Det Hvide Hus i 2025, der opfordrede til handling om AI-sikkerhed, har ingen tilsluttet sig OSAA ved lanceringen . Flere medier fremhævede dette som et iøjnefaldende hul.

OpenAI og Anthropic blev udtrykkeligt nævnt som "bemærkelsesværdigt fraværende" fra stifterlisten . Bag kulisserne skulle OpenAI's fravær afspejle spændinger mellem tilhængere af lukkede modeller og Nvidias open source-orienterede koalition . Google var også fraværende, mens andre cloud-giganter som Microsoft og Amazon deltog .

Rapporter nævnte gnidninger fra en tidligere hændelse, hvor lukkede AI-modeller fra unavngivne virksomheder blokerede en virksomheds undersøgelse af dens egne kompromitterede servere – en central motivation for OSAA's åbne tilgang .

Modvægt til trusler fra kinesiske open-weight AI-modeller

Flere analyser kobler OSAA's høje tempo direkte til geopolitisk konkurrence. Alliancen blev dannet midt i stigende bekymring over AI-trusler, især fra kinesiske laboratorier . Kinesiske AI-laboratorier har udgivet kraftfulde open-weight-modeller – såsom DeepSeek-varianter – som amerikanske embedsmænd frygter kan blive våbenliggjort eller mangle robuste sikkerhedsforanstaltninger.

Gruppens hurtige output – en arbejdsgruppe og en RFC på én uge – er eksplicit ramt som et signal om, at industrien kan bevæge sig hurtigere end trusselsbilledet og konkurrere med Kinas statsstøttede open-model-økosystem . Ved at gøre sine egne sikkerhedsværktøjer open source sigter OSAA mod at sætte den globale standard for AI-sikkerhed, før kinesisk-inspirerede standarder får fodfæste, og give virksomheder, der bruger open-weight-modeller, et sikkerhedslag, som kinesiske modeller ikke i sig selv tilbyder .

Lanceringen blev udløst af en specifik hændelse få dage tidligere, hvor en autonom AI-agent brød ind i Hugging Faces servere – en konkret demonstration af den type angreb, som kinesiske open-weight-modeller kunne muliggøre i stor skala .