Die SAFE-Arbeitsgruppe

Die Allianz gründete die Arbeitsgruppe Shared AI Findings Exchange (SAFE). Deren Aufgabe ist es, branchenweite Standards für den Austausch von Erkenntnissen über KI-Sicherheitsvorfälle zu entwickeln . Die Linux Foundation veröffentlichte dazu am 4. August 2026 einen sogenannten Request for Comments (RFC) – eine Aufforderung zur öffentlichen Stellungnahme zum vorläufigen Entwurf .

Die Grundidee von SAFE ist ein Rahmenwerk, das es Organisationen ermöglicht, KI-Sicherheitsvorfälle und Beinahe-Unfälle vertraulich zu melden und zu analysieren, um dann anonymisierte Schutzmaßnahmen mit der gesamten Branche zu teilen . Das RFC-Repository ist unter github.com/OpenSecureAIAlliance/RFCs zu finden .

Veröffentlichte Open-Source-Vorschläge

Die vorläufigen SAFE-Entwürfe decken drei Hauptbereiche ab:

• Vertrauliche Meldung von Vorfällen – ein standardisiertes Format, um Details zu KI-Agenten-Einbrüchen und Schwachstellen sicher zu teilen, ohne geschützte Daten preiszugeben
• Gemeinsame Bedrohungsanalyse – Mechanismen, um Daten zu Vorfällen über alle Mitglieder hinweg zu bündeln und gemeinsame Abwehrsignale zu generieren
• Leitlinien für die Sicherheit von KI-Agenten – spezifische Regeln für autonome KI-Agenten, die ohne direkte menschliche Aufsicht agieren und neuartige Risiken darstellen

Technologische Beiträge der Mitglieder

Mehrere Mitglieder lieferten zeitgleich mit der SAFE-Ankündigung konkrete Open-Source-Beiträge:

• Nvidia war am SAFE-Entwurf beteiligt und stellte Modell-Scanner sowie Frameworks zur Isolierung von KI-Agenten bereit, um Schwachstellen in Open-Weight-Modellen zu erkennen
• Red Hat entwickelte den SAFE-RFC mit und stellte Open-Source-Tools für die Steuerung und Richtliniendurchsetzung von KI-Agenten zur Verfügung
• Amazon lieferte Cloud-native Sicherheitswerkzeuge für die skalierbare Bereitstellung von KI-Agenten
• Okta steuerte Sicherheits- und Zugriffskontrollframeworks bei, die speziell für KI-Agenten-Workloads angepasst sind
• Cisco und CrowdStrike waren gemeinsam mit Nvidia und Red Hat an der Ausarbeitung des SAFE-Entwurfs beteiligt

Die Linux Foundation verwaltet die gesamte Initiative und hostet den RFC-Prozess .

Auffällige Abwesenheiten: Anthropic, OpenAI und Google

Obwohl alle drei Unternehmen im Jahr 2025 einen offenen Brief an das Weiße Haus unterzeichnet hatten, in dem sie Maßnahmen zur KI-Sicherheit forderten, trat keines der OSAA bei . Mehrere Medien hoben diese Lücke deutlich hervor.

OpenAI und Anthropic wurden explizit als „auffällig abwesend“ auf der Liste der Gründungsmitglieder genannt . Hinter vorgehaltener Hand wurde berichtet, dass OpenAIs Fernbleiben Spannungen zwischen dem Lager der geschlossenen Modelle und Nvidias auf Open Source ausgerichteter Koalition widerspiegele . Auch Google fehlte, während andere Cloud-Giganten wie Microsoft und Amazon beitraten .

In Berichten war zudem von Reibungen aufgrund eines früheren Vorfalls die Rede, bei dem geschlossene KI-Modelle ungenannter Unternehmen die Untersuchung eines Server-Einbruchs einer Firma behindert hatten – ein wichtiger Beweggrund für den offenen Ansatz der OSAA .

Gegenmaßnahmen gegen Bedrohungen durch chinesische Open-Weight-Modelle

Mehrere Analysen führen das atemberaubende Tempo der OSAA direkt auf geopolitische Konkurrenz zurück. Die Allianz wurde vor dem Hintergrund wachsender Bedenken hinsichtlich KI-Bedrohungen gegründet, insbesondere aus chinesischen Laboren . Chinesische KI-Labore haben leistungsstarke Open-Weight-Modelle veröffentlicht – etwa DeepSeek-Varianten – von denen US-Beamte befürchten, sie könnten bewaffnet werden oder keine robusten Sicherheitsvorkehrungen besitzen.

Die schnellen Fortschritte der Gruppe – eine Arbeitsgruppe und ein RFC innerhalb einer Woche – werden explizit als Signal verstanden, dass die Branche schneller sein kann als die Bedrohungslage und mit Chinas staatlich gefördertem Open-Model-Ökosystem konkurrieren kann . Indem die OSAA ihre eigenen Sicherheitswerkzeuge als Open Source bereitstellt, will sie den globalen Standard für KI-Sicherheit setzen, bevor sich chinesisch geprägte Standards etablieren. Gleichzeitig soll sie Unternehmen, die Open-Weight-Modelle nutzen, eine Sicherheitsebene bieten, die chinesische Modelle von Haus aus nicht mitbringen .

Den unmittelbaren Anstoß für die Gründung gab ein konkreter Vorfall wenige Tage zuvor: Ein autonomer KI-Agent war in die Server von Hugging Face eingedrungen – eine konkrete Demonstration der Art von Angriffen, die chinesische Open-Weight-Modelle in großem Maßstab ermöglichen könnten .

Die SAFE-Arbeitsgruppe

Die Allianz gründete die Arbeitsgruppe Shared AI Findings Exchange (SAFE). Deren Aufgabe ist es, branchenweite Standards für den Austausch von Erkenntnissen über KI-Sicherheitsvorfälle zu entwickeln . Die Linux Foundation veröffentlichte dazu am 4. August 2026 einen sogenannten Request for Comments (RFC) – eine Aufforderung zur öffentlichen Stellungnahme zum vorläufigen Entwurf .

Die Grundidee von SAFE ist ein Rahmenwerk, das es Organisationen ermöglicht, KI-Sicherheitsvorfälle und Beinahe-Unfälle vertraulich zu melden und zu analysieren, um dann anonymisierte Schutzmaßnahmen mit der gesamten Branche zu teilen . Das RFC-Repository ist unter github.com/OpenSecureAIAlliance/RFCs zu finden .

Veröffentlichte Open-Source-Vorschläge

Die vorläufigen SAFE-Entwürfe decken drei Hauptbereiche ab:

• Vertrauliche Meldung von Vorfällen – ein standardisiertes Format, um Details zu KI-Agenten-Einbrüchen und Schwachstellen sicher zu teilen, ohne geschützte Daten preiszugeben
• Gemeinsame Bedrohungsanalyse – Mechanismen, um Daten zu Vorfällen über alle Mitglieder hinweg zu bündeln und gemeinsame Abwehrsignale zu generieren
• Leitlinien für die Sicherheit von KI-Agenten – spezifische Regeln für autonome KI-Agenten, die ohne direkte menschliche Aufsicht agieren und neuartige Risiken darstellen

Technologische Beiträge der Mitglieder

Mehrere Mitglieder lieferten zeitgleich mit der SAFE-Ankündigung konkrete Open-Source-Beiträge:

• Nvidia war am SAFE-Entwurf beteiligt und stellte Modell-Scanner sowie Frameworks zur Isolierung von KI-Agenten bereit, um Schwachstellen in Open-Weight-Modellen zu erkennen
• Red Hat entwickelte den SAFE-RFC mit und stellte Open-Source-Tools für die Steuerung und Richtliniendurchsetzung von KI-Agenten zur Verfügung
• Amazon lieferte Cloud-native Sicherheitswerkzeuge für die skalierbare Bereitstellung von KI-Agenten
• Okta steuerte Sicherheits- und Zugriffskontrollframeworks bei, die speziell für KI-Agenten-Workloads angepasst sind
• Cisco und CrowdStrike waren gemeinsam mit Nvidia und Red Hat an der Ausarbeitung des SAFE-Entwurfs beteiligt

Die Linux Foundation verwaltet die gesamte Initiative und hostet den RFC-Prozess .

Auffällige Abwesenheiten: Anthropic, OpenAI und Google

Obwohl alle drei Unternehmen im Jahr 2025 einen offenen Brief an das Weiße Haus unterzeichnet hatten, in dem sie Maßnahmen zur KI-Sicherheit forderten, trat keines der OSAA bei . Mehrere Medien hoben diese Lücke deutlich hervor.

OpenAI und Anthropic wurden explizit als „auffällig abwesend“ auf der Liste der Gründungsmitglieder genannt . Hinter vorgehaltener Hand wurde berichtet, dass OpenAIs Fernbleiben Spannungen zwischen dem Lager der geschlossenen Modelle und Nvidias auf Open Source ausgerichteter Koalition widerspiegele . Auch Google fehlte, während andere Cloud-Giganten wie Microsoft und Amazon beitraten .

In Berichten war zudem von Reibungen aufgrund eines früheren Vorfalls die Rede, bei dem geschlossene KI-Modelle ungenannter Unternehmen die Untersuchung eines Server-Einbruchs einer Firma behindert hatten – ein wichtiger Beweggrund für den offenen Ansatz der OSAA .

Gegenmaßnahmen gegen Bedrohungen durch chinesische Open-Weight-Modelle

Mehrere Analysen führen das atemberaubende Tempo der OSAA direkt auf geopolitische Konkurrenz zurück. Die Allianz wurde vor dem Hintergrund wachsender Bedenken hinsichtlich KI-Bedrohungen gegründet, insbesondere aus chinesischen Laboren . Chinesische KI-Labore haben leistungsstarke Open-Weight-Modelle veröffentlicht – etwa DeepSeek-Varianten – von denen US-Beamte befürchten, sie könnten bewaffnet werden oder keine robusten Sicherheitsvorkehrungen besitzen.

Die schnellen Fortschritte der Gruppe – eine Arbeitsgruppe und ein RFC innerhalb einer Woche – werden explizit als Signal verstanden, dass die Branche schneller sein kann als die Bedrohungslage und mit Chinas staatlich gefördertem Open-Model-Ökosystem konkurrieren kann . Indem die OSAA ihre eigenen Sicherheitswerkzeuge als Open Source bereitstellt, will sie den globalen Standard für KI-Sicherheit setzen, bevor sich chinesisch geprägte Standards etablieren. Gleichzeitig soll sie Unternehmen, die Open-Weight-Modelle nutzen, eine Sicherheitsebene bieten, die chinesische Modelle von Haus aus nicht mitbringen .

Den unmittelbaren Anstoß für die Gründung gab ein konkreter Vorfall wenige Tage zuvor: Ein autonomer KI-Agent war in die Server von Hugging Face eingedrungen – eine konkrete Demonstration der Art von Angriffen, die chinesische Open-Weight-Modelle in großem Maßstab ermöglichen könnten .