Wie Bugcrowd KI darauf trainiert, echte Software‑Sicherheitslücken zu finden und zu schließen

Künstliche Intelligenz spielt zunehmend eine Rolle im Wettrüsten der Cybersicherheit. Während Angreifer beginnen, KI‑Werkzeuge zu nutzen, arbeiten Sicherheitsfirmen an Systemen, die Schwachstellen automatisch erkennen und beheben können.

Bugcrowd will mit einer neuen Plattform namens Reinforcement Learning Environments (RL Environments) genau dafür die Trainingsbasis liefern: KI‑Modelle lernen nicht nur an Datensätzen oder vereinfachten Beispielen, sondern direkt an echter Software mit realen Schwachstellen.

Training an realer Software statt synthetischer Daten

Viele heutige KI‑Sicherheitsmodelle werden mit synthetischen Benchmarks oder stark kuratierten Datensätzen trainiert. Laut Bugcrowd spiegeln solche Trainingsdaten die Komplexität realer Software oft nur unzureichend wider.

Die RL‑Umgebungen sollen diese Lücke schließen. Die Plattform stellt Hunderttausende Trainingsumgebungen bereit, die aus Open‑Source‑Projekten mit realem Quellcode und bekannten Sicherheitslücken aufgebaut sind.

Darin kann eine KI wie ein menschlicher Sicherheitsforscher mit der Software interagieren: Code analysieren, Fehler auslösen und mögliche Angriffswege untersuchen.

Durch wiederholtes Training in diesen Szenarien lernen Modelle, wie Sicherheitslücken in echten Codebasen entstehen – und wie sie sich beheben lassen.

Der Reinforcement‑Learning‑Kreislauf

Technisch basiert die Plattform auf Reinforcement Learning, also Lernen durch Versuch und Rückmeldung.

In jeder Umgebung kann ein KI‑Agent den vollständigen Prozess der Offensiv‑Sicherheit durchlaufen:

• Schwachstellen im Code entdecken
• Den Bug auslösen oder ausnutzen, um seine Existenz zu beweisen
• Ausnutzbarkeit und Auswirkungen bewerten
• Patches oder Fixes erzeugen bzw. überprüfen

Für jeden Schritt gibt das System eine objektive Bewertung zurück. Dadurch entsteht eine Feedback‑Schleife, in der Modelle ihre Strategien kontinuierlich verbessern.

Das Prinzip ähnelt dem Training moderner KI‑Systeme in anderen Bereichen: Erfolgreiche Aktionen werden belohnt, ineffektive Strategien abgestraft, bis das Modell robuste Muster gelernt hat.

Technologie aus der Mayhem‑Übernahme

Die Grundlage für Bugcrowds neue Trainingsplattform stammt teilweise aus der Technologie von Mayhem Security, einem auf offensive KI‑Sicherheit spezialisierten Startup. Bugcrowd hatte das Unternehmen im November 2025 übernommen.

Mayhem entwickelte Systeme, die Software automatisch aus der Perspektive eines Angreifers testen können – inklusive automatisierter Suche nach Schwachstellen und deren Ausnutzung.

Durch die Integration dieser Technologie will Bugcrowd mehrere Elemente zusammenführen:

• automatisierte Sicherheitstests mit KI
• die weltweite Community unabhängiger Sicherheitsforscher von Bugcrowd
• realistische Reinforcement‑Learning‑Trainingsumgebungen

Das Ziel: Schwachstellen schneller entdecken und beheben.

Warum realistische Trainingsdaten entscheidend sind

Ein zentrales Designprinzip der Plattform ist der Einsatz echter Software statt synthetischer Trainingsdaten.

Synthetische Datensätze eignen sich zwar gut für grundlegende Mustererkennung, bilden aber selten die Komplexität realer Anwendungen ab. In echten Projekten entstehen Sicherheitslücken oft durch chaotische Codebasen, unerwartete Wechselwirkungen oder veraltete Abhängigkeiten.

Durch Trainingsumgebungen, die reale Systeme simulieren, sollen KI‑Modelle später auch in Produktionssystemen zuverlässiger arbeiten.

Datenschutz und Datenquellen

Beim Training von Sicherheits‑KI stellt sich schnell die Frage nach sensiblen Daten. Bugcrowd betont deshalb, dass die RL‑Umgebungen ausschließlich auf Open‑Source‑Software basieren.

Laut Unternehmen werden keine Kundendaten und keine Daten aus der Arbeit von Sicherheitsforschern für das Training verwendet.

So können KI‑Teams neue Modelle testen, ohne proprietären Code oder vertrauliche Sicherheitsmeldungen preiszugeben.

Zusammenarbeit von KI und menschlichen Hackern

Trotz der starken Automatisierung sieht Bugcrowd die Technologie nicht als Ersatz für Menschen. Das Unternehmen spricht von „human‑augmented security“ – also Sicherheitssystemen, in denen KI und menschliche Experten zusammenarbeiten.

KI‑Agenten können große Mengen möglicher Angriffswege schnell analysieren. Menschliche Sicherheitsforscher bleiben jedoch wichtig, um komplexe Systeme zu verstehen, kreative Angriffstechniken zu entwickeln und Sicherheitsrisiken im Kontext realer Organisationen zu bewerten.

KI als neuer Faktor im Cybersecurity‑Wettrennen

Die Einführung der RL‑Umgebungen spiegelt eine breitere Entwicklung wider: KI wird auf beiden Seiten der Cybersicherheit eingesetzt.

Angreifer nutzen zunehmend KI‑Tools, um Schwachstellen zu entdecken, Exploits zu generieren oder Angriffe zu automatisieren. Dadurch wächst der Druck auf Verteidiger, ebenfalls KI‑gestützte Systeme einzusetzen.

Plattformen wie die von Bugcrowd sollen dafür sorgen, dass Sicherheits‑KI nicht nur theoretisch funktioniert, sondern unter realistischen Bedingungen trainiert wird. Gelingt das, könnten zukünftige Modelle einen großen Teil der frühen Schwachstellensuche automatisieren – während menschliche Experten sich auf besonders komplexe Sicherheitsprobleme konzentrieren.