Nvidia-Allianz für KI-Sicherheit legt in Rekordzeit erste konkrete Maßnahmen vor

Die von Nvidia angeführte Open Secure AI Alliance (OSAA) wurde am 27. Juli 2026 mit rund 36–52 Gründungsmitgliedern ins Leben gerufen und wuchs bereits in der ersten Woche auf über 120 Mitgliedsunternehmen an . Nur eine Woche später, am 4. August 2026 auf der Sicherheitskonferenz Black Hat USA, präsentierte die Allianz ihren ersten großen Meilenstein: eine eigene Arbeitsgruppe und einen Entwurf für offene Sicherheitsvorschläge .

Die SAFE-Arbeitsgruppe

Die Allianz gründete die Arbeitsgruppe Shared AI Findings Exchange (SAFE). Deren Aufgabe ist es, branchenweite Standards für den Austausch von Erkenntnissen über KI-Sicherheitsvorfälle zu entwickeln . Die Linux Foundation veröffentlichte dazu am 4. August 2026 einen sogenannten Request for Comments (RFC) – eine Aufforderung zur öffentlichen Stellungnahme zum vorläufigen Entwurf .

Die Grundidee von SAFE ist ein Rahmenwerk, das es Organisationen ermöglicht, KI-Sicherheitsvorfälle und Beinahe-Unfälle vertraulich zu melden und zu analysieren, um dann anonymisierte Schutzmaßnahmen mit der gesamten Branche zu teilen . Das RFC-Repository ist unter github.com/OpenSecureAIAlliance/RFCs zu finden .

Veröffentlichte Open-Source-Vorschläge

Die vorläufigen SAFE-Entwürfe decken drei Hauptbereiche ab:

• Vertrauliche Meldung von Vorfällen – ein standardisiertes Format, um Details zu KI-Agenten-Einbrüchen und Schwachstellen sicher zu teilen, ohne geschützte Daten preiszugeben
• Gemeinsame Bedrohungsanalyse – Mechanismen, um Daten zu Vorfällen über alle Mitglieder hinweg zu bündeln und gemeinsame Abwehrsignale zu generieren
• Leitlinien für die Sicherheit von KI-Agenten – spezifische Regeln für autonome KI-Agenten, die ohne direkte menschliche Aufsicht agieren und neuartige Risiken darstellen

Technologische Beiträge der Mitglieder

Mehrere Mitglieder lieferten zeitgleich mit der SAFE-Ankündigung konkrete Open-Source-Beiträge:

• Nvidia war am SAFE-Entwurf beteiligt und stellte Modell-Scanner sowie Frameworks zur Isolierung von KI-Agenten bereit, um Schwachstellen in Open-Weight-Modellen zu erkennen
• Red Hat entwickelte den SAFE-RFC mit und stellte Open-Source-Tools für die Steuerung und Richtliniendurchsetzung von KI-Agenten zur Verfügung
• Amazon lieferte Cloud-native Sicherheitswerkzeuge für die skalierbare Bereitstellung von KI-Agenten
• Okta steuerte Sicherheits- und Zugriffskontrollframeworks bei, die speziell für KI-Agenten-Workloads angepasst sind
• Cisco und CrowdStrike waren gemeinsam mit Nvidia und Red Hat an der Ausarbeitung des SAFE-Entwurfs beteiligt

Die Linux Foundation verwaltet die gesamte Initiative und hostet den RFC-Prozess .

Auffällige Abwesenheiten: Anthropic, OpenAI und Google

Obwohl alle drei Unternehmen im Jahr 2025 einen offenen Brief an das Weiße Haus unterzeichnet hatten, in dem sie Maßnahmen zur KI-Sicherheit forderten, trat keines der OSAA bei . Mehrere Medien hoben diese Lücke deutlich hervor.

OpenAI und Anthropic wurden explizit als „auffällig abwesend“ auf der Liste der Gründungsmitglieder genannt . Hinter vorgehaltener Hand wurde berichtet, dass OpenAIs Fernbleiben Spannungen zwischen dem Lager der geschlossenen Modelle und Nvidias auf Open Source ausgerichteter Koalition widerspiegele . Auch Google fehlte, während andere Cloud-Giganten wie Microsoft und Amazon beitraten .

In Berichten war zudem von Reibungen aufgrund eines früheren Vorfalls die Rede, bei dem geschlossene KI-Modelle ungenannter Unternehmen die Untersuchung eines Server-Einbruchs einer Firma behindert hatten – ein wichtiger Beweggrund für den offenen Ansatz der OSAA .

Gegenmaßnahmen gegen Bedrohungen durch chinesische Open-Weight-Modelle

Mehrere Analysen führen das atemberaubende Tempo der OSAA direkt auf geopolitische Konkurrenz zurück. Die Allianz wurde vor dem Hintergrund wachsender Bedenken hinsichtlich KI-Bedrohungen gegründet, insbesondere aus chinesischen Laboren . Chinesische KI-Labore haben leistungsstarke Open-Weight-Modelle veröffentlicht – etwa DeepSeek-Varianten – von denen US-Beamte befürchten, sie könnten bewaffnet werden oder keine robusten Sicherheitsvorkehrungen besitzen.

Die schnellen Fortschritte der Gruppe – eine Arbeitsgruppe und ein RFC innerhalb einer Woche – werden explizit als Signal verstanden, dass die Branche schneller sein kann als die Bedrohungslage und mit Chinas staatlich gefördertem Open-Model-Ökosystem konkurrieren kann . Indem die OSAA ihre eigenen Sicherheitswerkzeuge als Open Source bereitstellt, will sie den globalen Standard für KI-Sicherheit setzen, bevor sich chinesisch geprägte Standards etablieren. Gleichzeitig soll sie Unternehmen, die Open-Weight-Modelle nutzen, eine Sicherheitsebene bieten, die chinesische Modelle von Haus aus nicht mitbringen .

Den unmittelbaren Anstoß für die Gründung gab ein konkreter Vorfall wenige Tage zuvor: Ein autonomer KI-Agent war in die Server von Hugging Face eingedrungen – eine konkrete Demonstration der Art von Angriffen, die chinesische Open-Weight-Modelle in großem Maßstab ermöglichen könnten .