Nvidias AI-säkerhetsallians OSAA lanserar SAFE-riktlinjer på bara en vecka

SAFEs kärnkoncept är ett ramverk som gör det möjligt för organisationer att konfidentiellt rapportera och analysera AI-säkerhetsincidenter och tillbud och därefter dela anonymiserade skyddsåtgärder med hela ekosystemet . RFC-förvaret finns på github.com/OpenSecureAIAlliance/RFCs .

Öppna källkods-förslag ute för kommentar

De första SAFE-utkasten omfattar tre huvudområden:

• Konfidentiell incidentrapportering – ett standardiserat format för att säkert dela detaljer om intrång och sårbarheter i AI-agenter utan att exponera företagshemligheter
• Samarbetsinriktad hotanalys – mekanismer för att sammanställa incidentdata från medlemmar och generera gemensamma försvarssignaler
• Riktlinjer för agentisk AI-säkerhet – regler specifika för autonoma AI-agenter som arbetar utan direkt mänsklig tillsyn och därmed utgör nya risker

Teknikbidrag från nyckelmedlemmar

Flera medlemmar levererade konkreta bidrag med öppen källkod i samband med SAFE-nyheten:

• Nvidia var medförfattare till SAFE-utkastet och bidrog med modelskannrar och ramverk för agentisolering för att upptäcka sårbarheter i modeller med öppen vikt
• Red Hat utvecklade SAFE-RFC:n och tillhandahöll öppen källkod för agentstyrning med policyövervakning av AI-agenter
• Amazon bidrog med molnbaserade säkerhetsverktyg för att skydda AI-agentimplementeringar i stor skala
• Okta levererade identitetssäkerhets- och åtkomstkontrollramverk anpassade för AI-agentarbetsbelastningar
• Cisco och CrowdStrike var medförfattare till SAFE-utkastet tillsammans med Nvidia och Red Hat

Linux Foundation hanterar hela initiativet och är värd för RFC-processen .

Anmärkningsvärda frånvaro: Anthropic, OpenAI och Google

Trots att alla tre företagen undertecknade ett öppet brev till Vita huset 2025 med krav på AI-säkerhetsåtgärder, gick inget av dem med i OSAA vid lanseringen . Flera medier pekade på detta som en påtaglig brist.

OpenAI och Anthropic omnämndes uttryckligen som ”anmärkningsvärt frånvarande” från grundarmedlemslistan . Bakom kulisserna uppgavs OpenAIs frånvaro återspegla spänningar mellan lägret för slutna modeller och Nvidias koalition med öppen källkod . Google var också frånvarande, medan andra molnjättar som Microsoft och Amazon anslöt sig .

Rapporter nämnde friktion från en tidigare incident där slutna AI-modeller från icke namngivna företag hindrade ett företags utredning av sina egna intrångsservrar – en viktig motivationsfaktor för OSSAAs öppna ansats .

Motverkar hot från kinesiska AI-modeller med öppen vikt

Flera analyser kopplar OSSAAs blixtsnabba framfart direkt till geopolitiska spänningar. Alliansen bildades mot bakgrund av växande oro för AI-hot, särskilt från kinesiska labb . Kinesiska AI-labb har släppt kraftfulla modeller med öppen vikt – som DeepSeek-varianter – som amerikanska tjänstemän befarar kan beväpnas eller sakna robusta säkerhetsbarriärer.

Gruppens snabba utfall – en arbetsgrupp och RFC inom en vecka – ses uttryckligen som en signal om att branschen kan röra sig snabbare än hotbilden och konkurrera med Kinas statsstödda ekosystem för öppna modeller . Genom att själva publicera sina säkerhetsverktyg som öppen källkod vill OSAA sätta den globala standarden för AI-säkerhet innan kinesiska standarder hinner etableras, och ge företag som använder modeller med öppen vikt ett säkerhetslager som kinesiska modeller inte har inbyggt .

Lanseringen utlöstes av en specifik incident dagar tidigare, där en autonom AI-agent bröt sig in på Hugging Faces servrar – en konkret demonstration av den typ av attack som kinesiska modeller med öppen vikt skulle kunna genomföra i stor skala .