Red Hat und IBM: Neue Open-Source-Projekte sollen KI sicherer machen

Damit will asago eine Lücke schließen, die in vielen Organisationen zwischen Compliance und Technik besteht: Während Compliance-Teams Anforderungen in Richtliniendokumenten formulieren, müssen Entwicklerinnen und Entwickler sowie Infrastrukturteams daraus konkrete Tests, Schutzmaßnahmen und Produktionskonfigurationen machen .

Red Hat zufolge soll sich der Zeitraum für die Umsetzung von Sicherheitskontrollen dadurch von Monaten auf wenige Tage verkürzen .

So funktioniert der Workflow

asago verbindet die bislang oft getrennten Arbeitsschritte von Compliance-, Entwicklungs- und Betriebsteams in einem automatisierten und prüfbaren Ablauf . Typischerweise soll das System:

• hochgeladene Richtlinien zur KI-Governance auslesen,
• einzelne Vorgaben mithilfe des IBM AI Risk Atlas etablierten Risikorahmenwerken zuordnen – etwa dem NIST AI RMF, den OWASP LLM Top 10 oder dem EU AI Act ,
• zu den erkannten Risiken passende Sicherheitstests erzeugen,
• Gegenmaßnahmen empfehlen und
• daraus einsatzbereite Konfigurationen für Werkzeuge wie Kubernetes, Terraform und Ansible erstellen .

Wichtig ist dabei die Nachvollziehbarkeit: Jeder Schritt soll eine dokumentierte Audit-Spur erzeugen. So lässt sich eine aktive Schutzmaßnahme bis zu der konkreten Richtlinienvorgabe zurückverfolgen, auf der sie beruht .

Ausrichtung an wichtigen Standards

asago soll ausdrücklich auf drei zentrale Referenzen abbilden:

• NIST AI Risk Management Framework (NIST AI RMF) – ein Rahmenwerk des US-amerikanischen National Institute of Standards and Technology,
• OWASP LLM Top 10 – eine Risikoliste für Anwendungen mit großen Sprachmodellen und
• den EU AI Act, also die KI-Verordnung der Europäischen Union .

Wer beteiligt ist

Zur Gründungskoalition gehören :

• Red Hat als federführendes Unternehmen,
• IBM Research,
• Microsoft,
• NVIDIA,
• MIT Lincoln Laboratory,
• North Carolina State University,
• The Alan Turing Institute,
• Alquimia AI,
• Brave Software,
• die EvalEval coalition und
• die Interdisciplinary Transformation University Austria.

Weitere Organisationen sollen im Laufe der Projektentwicklung hinzukommen. asago wird unter der Apache License 2.0 aufgebaut. Das Repository ist in der Gründungsphase auf GitHub für Entwickler, Forschende aus der Wissenschaft und interessierte Unternehmen zur Prüfung zugänglich .

Lightwell kostenlos für Hochschulen und gemeinnützige Organisationen

Was sich ändert

Ebenfalls am 4. August 2026 kündigten IBM und Red Hat an, berechtigten Universitäten, NGOs und Thinktanks kostenlosen Zugang zu Lightwell zu geben . Das Programm umfasst zunächst mehr als 185 Forschungsuniversitäten sowie 100 NGOs und Thinktanks in den USA. Die Aufnahme geeigneter Einrichtungen begann im August 2026 .

Lightwell ist eine KI-gestützte Plattform, die Schwachstellen in Open-Source-Paketen aufspürt, mögliche Korrekturen entwickelt, diese technisch überprüft und anschließend repariert .

Was Lightwell konkret macht

• Eine generative-KI-gestützte Remediation-Engine arbeitet gemeinsam mit Ingenieurteams von IBM und Red Hat .
• Das System identifiziert verwundbare Abhängigkeiten, entwickelt Reparaturvorschläge und unterzieht sie einer technischen Validierung .
• Die teilnehmenden Einrichtungen behalten die Kontrolle über vertrauliche Informationen. Lightwell läuft innerhalb der vorhandenen Umgebung und benötigt keinen Zugriff auf proprietären Quellcode, Forschungsergebnisse oder private Daten .
• Nach dem Prinzip „upstream always“ sollen Korrekturen an die ursprünglichen Open-Source-Communities zurückgegeben werden. Nach deren Prüfung können die Verbesserungen somit auch anderen Nutzern zugutekommen .

Die Teilnehmenden erhalten unter anderem:

• validierte Korrekturen für anfällige Open-Source-Software,
• digital signierten Quellcode und digital signierte Software-Binärdateien,
• Software Bills of Materials (SBOMs), also maschinenlesbare Verzeichnisse der enthaltenen Software-Bestandteile,
• Dokumentation für Compliance-Zwecke sowie
• Korrekturen für Softwareversionen, die bereits produktiv eingesetzt werden .

Der letzte Punkt ist besonders relevant für Forschungseinrichtungen und gemeinnützige Organisationen, die nicht ohne Weiteres sofort auf eine neue Hauptversion ihrer Software umsteigen können.

Die Zahl der über Lightwell verfügbaren validierten und reparierten Paketversionen stieg laut IBM und Red Hat von etwa 6.500 auf mehr als 8.000. Darunter befinden sich Korrekturen für 64 zuvor nicht offengelegte Schwachstellen .

Warum diese Schritte jetzt wichtig sind

Die beiden Ankündigungen reagieren auf miteinander verbundene Sicherheits- und Governance-Probleme:

• Abhängigkeiten in KI-Stacks: Moderne KI-Systeme stützen sich in hohem Maß auf Open-Source-Komponenten. Schwachstellen in diesen Paketen können von KI-gestützten Angreifern in großem Umfang gesucht und ausgenutzt werden .
• Die Lücke zwischen Regeln und Technik: Allgemeine Grundsätze – etwa aus dem EU AI Act – sind noch keine Konfiguration, die ein Engineering-Team ausrollen oder ein Audit prüfen kann. Genau diese Übersetzung soll asago automatisieren .
• Begrenzte Ressourcen im öffentlichen Interesse: Universitäten und NGOs verfügen häufig nicht über ausreichend Personal und Budget, um ihre Open-Source-Abhängigkeiten umfassend abzusichern .
• Doppelnutzung von KI: Dieselben KI-Funktionen, die Verteidiger beim Aufspüren von Schwachstellen unterstützen, können auch Angreifern helfen, verwundbare Systeme schneller zu entdecken und anzugreifen .

Steven Huels, Vice President of AI Engineering bei Red Hat, formulierte die Herausforderung so: „Wenn Organisationen von experimentellen KI-Pilotprojekten zu dauerhaft laufenden, autonomen Agenten übergehen, werden klare operative Leitplanken zu einer Anforderung an die kritische Infrastruktur“ .

asago und der kostenlose Lightwell-Zugang bauen auf der im Mai 2026 angekündigten 5-Milliarden-US-Dollar-Initiative Project Lightwell auf . Hinzu kommt die Open Secure AI Alliance, die NVIDIA mit Red Hat als Gründungsmitglied ins Leben gerufen hat . Dahinter steht ein breiter werdendes Verständnis der Branche: Für die Sicherheits- und Governance-Herausforderungen rund um KI reicht die Arbeit einer einzelnen Organisation nicht aus .