Nvidia's Open Secure AI Alliance komt in een week tijd met voorstellen voor AI-veiligheid

SAFE's kernconcept is een raamwerk waarmee organisaties vertrouwelijk AI-beveiligingsincidenten en bijna-ongelukken kunnen melden en analyseren, en vervolgens geanonimiseerde beschermingsmaatregelen kunnen delen met het bredere ecosysteem . De RFC-repository is te vinden op github.com/OpenSecureAIAlliance/RFCs .

Open-source voorstellen ter commentaar gepubliceerd

De eerste SAFE-conceptvoorstellen bestrijken drie hoofdgebieden:

• Vertrouwelijke incidentmelding — een gestandaardiseerd formaat voor het veilig delen van details over inbreuken en kwetsbaarheden in AI-agents zonder bedrijfseigen gegevens bloot te geven
• Gezamenlijke dreigingsanalyse — mechanismen om incidentgegevens van leden te bundelen en gedeelde verdedigingssignalen te genereren
• Richtlijnen voor agentische AI-beveiliging — specifieke regels voor autonome AI-agents die zonder direct menselijk toezicht werken en nieuwe risico's met zich meebrengen

Technologiebijdragen van belangrijke leden

Meerdere leden leverden concrete open-source bijdragen tegelijk met de SAFE-aankondiging:

• Nvidia was co-auteur van het SAFE-concept en droeg modelscanners en agent-isolatieframeworks bij voor het detecteren van kwetsbaarheden in open-weight-modellen
• Red Hat ontwikkelde de SAFE-RFC mee en leverde open-source agent-governance-tools voor handhaving van beleid op AI-agents
• Amazon droeg cloud-native beveiligingstools bij voor het op schaal beveiligen van AI-agent-implementaties
• Okta leverde identity security- en toegangscontroleframeworks die zijn aangepast voor AI-agent-workloads
• Cisco en CrowdStrike waren mede-auteur van het SAFE-concept samen met Nvidia en Red Hat

De Linux Foundation beheert het algehele initiatief en host het RFC-proces .

Opvallende afwezigheden: Anthropic, OpenAI en Google

Ondanks dat alle drie de bedrijven in 2025 een open brief aan het Witte Huis hadden ondertekend waarin werd opgeroepen tot actie op het gebied van AI-beveiliging, sloot geen van hen zich bij de lancering aan bij OSAA . Meerdere media benadrukten dit als een opvallend gemis.

OpenAI en Anthropic werden expliciet genoemd als "opvallend afwezig" op de lijst van oprichters . Achter de schermen werd gezegd dat de afwezigheid van OpenAI spanningen weerspiegelt tussen het closed-model-kamp en de open-source-georiënteerde coalitie van Nvidia . Google was ook afwezig, hoewel andere cloudgiganten zoals Microsoft en Amazon zich wel aansloten .

Rapporten wezen op een incident waarbij closed-AI-modellen van niet nader genoemde bedrijven het onderzoek van een bedrijf naar zijn eigen gehackte servers belemmerden — een belangrijke motivatie voor de open aanpak van OSAA .

Het tegengaan van Chinese open-weight AI-modeldreigingen

Meerdere analyses koppelen het hoge tempo van OSAA rechtstreeks aan geopolitieke concurrentie. De alliantie werd gevormd te midden van groeiende zorgen over AI-dreigingen, met name van Chinese labs . Chinese AI-labs hebben krachtige open-weight-modellen uitgebracht — zoals DeepSeek-varianten — waarvan Amerikaanse functionarissen vrezen dat ze kunnen worden bewapend of robuuste beveiligingswaarborgen missen.

De snelle output van de groep — een werkgroep en RFC binnen een week — wordt expliciet gezien als een signaal dat de industrie sneller kan handelen dan het dreigingslandschap en kan concurreren met het door de staat gesteunde open-model-ecosysteem van China . Door zijn eigen beveiligingstools open-source te maken, wil OSAA de wereldwijde standaard voor AI-veiligheid zetten voordat door China beïnvloede standaarden voet aan de grond krijgen, en bedrijven die open-weight-modellen gebruiken een veiligheidslaag bieden die Chinese modellen niet van nature bieden .

De lancering werd gekatalyseerd door een specifiek incident enkele dagen eerder waarbij een autonome AI-agent de servers van Hugging Face binnendrong — een concrete demonstratie van het soort aanval dat Chinese open-weight-modellen op grote schaal mogelijk zouden kunnen maken .