Wie Mandiants AVDH die neue Ära der KI-Cybersicherheit sichtbar macht

Diese Aufgabenteilung ist entscheidend. Bei der automatisierten Quellcodeanalyse entstehen weitaus mehr verdächtige Muster, als Sicherheitsteams manuell untersuchen könnten. AVDH kann eine große Menge an Zwischenbefunden erzeugen. Validierungsstufen und menschliche Prüfung lenken die Aufmerksamkeit anschließend auf Probleme, die wahrscheinlich ausnutzbar sind und relevante Auswirkungen haben.

Google zufolge analysierte AVDH in den ersten zehn Monaten seines Einsatzes Codebasen mit insgesamt mehreren Dutzend Millionen Zeilen und erzeugte dabei mehrere Zehntausend Befunde. In der besonders hervorgehobenen zweitägigen Untersuchung identifizierte das System mehr als 100 echte kritische Schwachstellen. Die Arbeit führte außerdem zu zwölf vergebenen CVE-Nummern; ungefähr ein weiteres Dutzend Fälle befand sich demnach noch in der laufenden Offenlegung.

Die aussagekräftige Kennzahl ist deshalb nicht die bloße Zahl der Warnungen. Entscheidend ist, wie viele maschinell erzeugte Hypothesen sich in reproduzierbare und verantwortungsvoll behandelte Schwachstellen umwandeln lassen.

AVDH und Palo Altos NOVA sind kein sauberer Wettbewerb

Palo Alto Networks hat mit NOVA, einem autonomen Multi-Modell-System zur Schwachstellensuche, eine deutlich größere Schlagzeilenzahl veröffentlicht. Nach Angaben des Unternehmens analysierte NOVA innerhalb von zwei Monaten 3.915 Open-Source-Projekte und meldete 14.090 bestätigte Schwachstellen. 99,4 Prozent davon seien zuvor nicht bekannt gewesen, 40 Prozent wurden als hoch oder kritisch eingestuft.

Diese Zahlen beschreiben jedoch ein anderes Einsatzmodell als das AVDH-Ergebnis von Mandiant:

• AVDH: eine zeitlich begrenzte, tiefgehende Untersuchung im Zusammenhang mit Incident Response, bei der menschliche Prüfung und reproduzierte Exploit-Pfade zentrale Qualitätskontrollen bilden.
• NOVA: eine Untersuchung des Open-Source-Ökosystems im großen Maßstab, die Tausende Projekte abdeckt und auf größtmögliche Breite sowie autonome Entdeckung ausgelegt ist.

Die verfügbaren Berichte belegen nicht, dass beide Systeme dieselbe Auswahl der Ziele, identische Kriterien für den Schweregrad, dieselben Schwellenwerte für Fehlalarme, Exploitability-Tests oder Offenlegungsprozesse verwendet haben. Die Schlagzeilenzahlen sollten daher nicht als allgemeine Rangliste verstanden werden.

AVDH zeigt, wie Agentenketten eine Untersuchung mit hoher Sicherheit in einem konkreten Einsatz unterstützen können. NOVA zeigt, in welchem Maßstab autonome Entdeckung in Open-Source-Software bereits arbeiten kann. Zusammengenommen deuten die Ergebnisse auf zwei getrennte Aufgaben hin: Schwachstellen breit genug zu suchen – und sie gut genug zu validieren, damit daraus verwertbare Sicherheitsmaßnahmen entstehen.

Die Verteidigung verschiebt sich von der Suche zur Verringerung der Angriffsfläche

Palo Altos Antwort auf die schnellere Entdeckung beschränkt sich nicht auf das Finden von Fehlern. Mit Advanced Virtual Patching will das Unternehmen Schutzmaßnahmen auf Netzwerkebene innerhalb weniger Stunden bereitstellen. Dadurch soll die Gefährdung sinken, während die Verantwortlichen der betroffenen Software an einer herkömmlichen Behebung arbeiten. Palo Alto stellt diesen Ansatz einem von dem Unternehmen genannten Branchendurchschnitt von etwa 55 Tagen für klassische Patches gegenüber.

Zusätzlich hat Palo Alto das Frontier AI Critical Defense Program angekündigt. Die Initiative bringt KI-Unternehmen, Softwareanbieter, Open-Source-Akteure und Organisationen aus der Betriebstechnik – also etwa aus Bereichen kritischer Infrastruktur – in einem koordinierten Verteidigungsprogramm zusammen. Zu den genannten Teilnehmern gehören unter anderem Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric und Axis Communications.

Virtuelles Patchen kann besonders dann nützlich sein, wenn ein verwundbarer Dienst über Datenverkehr erreichbar ist, den eine Netzwerkkomponente erkennen und blockieren kann. Es ist jedoch als kompensierende Schutzmaßnahme zu verstehen und nicht als Ersatz für die Korrektur der zugrunde liegenden Software. Die dauerhafte Lösung erfordert weiterhin einen Verantwortlichen, der die Schwachstelle versteht, den Code ändert, die Änderung testet, sie verteilt und überprüft, ob alle betroffenen Systeme aktualisiert wurden.

Diese Unterscheidung gewinnt an Bedeutung, wenn die Entdeckungsgeschwindigkeit steigt. Eine Netzwerkregel kann die unmittelbare Angriffsfläche reduzieren. Sie beseitigt aber nicht automatisch den verwundbaren Code in einer gesamten Anwendung oder Software-Lieferkette.

Auch Angreifer gewinnen an Geschwindigkeit

Der defensive Fortschritt findet nicht im luftleeren Raum statt. Es gibt zugleich Hinweise darauf, dass Angreifer KI für ähnliche Aufgaben einsetzen. Googles Threat Intelligence Group berichtete über den ersten von ihr identifizierten Fall eines Bedrohungsakteurs, der einen Zero-Day-Exploit verwendet haben soll, der vermutlich mit KI entwickelt wurde. Der Akteur plante Google zufolge einen groß angelegten Angriff; die Gegenaufklärung des Unternehmens habe dies möglicherweise verhindert.

Der gemeldete Exploit zielte auf die Umgehung einer Zwei-Faktor-Authentifizierung in einem beliebten quelloffenen Web-Administrationswerkzeug. Als Hinweise auf die wahrscheinliche Unterstützung durch ein KI-Modell wurden unter anderem erklärende Kommentare und ein erfundener CVSS-Wert genannt.

Das bedeutet nicht, dass jede von einer KI erzeugte Schwachstelle zu einem operativen Angriff führt. Es bedeutet aber, dass Verteidiger nicht länger zuverlässig darauf bauen können, dass komplexer Quellcode, begrenzte Kapazitäten von Sicherheitsforschern oder die üblicherweise lange Zeit zwischen Entdeckung und Ausnutzung genügend Reaktionszeit verschaffen.

Die Warnung der Cloud Security Alliance (CSA) ist deshalb zentral: KI erhöht Geschwindigkeit und Umfang der Schwachstellenentdeckung schneller, als viele Systeme für Offenlegung und Patch-Verteilung diese Menge verarbeiten können. Mehr Befunde verbessern die Sicherheit nur dann, wenn Unternehmen in der Lage sind, sie zu priorisieren, Offenlegungen zu koordinieren, Korrekturen zu entwickeln und Schutzmaßnahmen sicher auszurollen.

Können Verteidiger den Vorsprung zurückgewinnen?

Ja – aber nicht, indem sie lediglich ein Modell zur Schwachstellensuche kaufen. Der Vorteil entsteht für Organisationen, die die Suche mit dem restlichen Sicherheitsbetrieb verbinden:

1. Bedrohungsmodellierung richtet die Suche auf realistische Angriffswege aus.
2. Agentenbasierte Analyse untersucht Code und erzeugt mit maschineller Geschwindigkeit konkurrierende Hypothesen.
3. Unabhängige Validierung verringert das Risiko, dass verdächtige Muster zu irreführenden Berichten werden.
4. Reproduktion durch Menschen bestätigt, ob ein vorgeschlagener Fehler tatsächlich ausnutzbar ist.
5. Koordinierte Offenlegung gibt Maintainer und Anbieter einen verlässlichen Weg zur Reaktion.
6. Virtuelles Patchen und andere kompensierende Kontrollen reduzieren die Angriffsfläche, während ein Code-Fix vorbereitet wird.
7. Priorisierte Behebung stellt sicher, dass die am besten erreichbaren und folgenschwersten Schwachstellen zuerst geschlossen werden.

AVDH veranschaulicht den Wert dieses verbundenen Ablaufs: Die breite automatisierte Suche wird mit menschlichem Urteilsvermögen und der Überprüfung von Exploits kombiniert. NOVA zeigt zugleich den Druck, dem ein solcher Ablauf standhalten muss: Autonome Systeme können Befunde in einer Größenordnung erzeugen, für die traditionelle Sicherheitsteams nicht ausgelegt sind.

Das entstehende KI-Wettrüsten in der Cybersicherheit ist daher nicht einfach ein Wettbewerb darum, welches Modell die meisten Fehler findet. Es geht darum, den gesamten Weg von der Erkennung bis zur Eindämmung schneller abzuschließen, als ein Angreifer eine Schwachstelle in einen Angriff verwandeln kann.

Verteidiger können dort Boden gutmachen, wo sie den Quellcode, die Telemetrie, die Bereitstellungspipeline und die Netzwerksteuerung kontrollieren. Die Entdeckung allein – ohne Validierung, Zuständigkeit, Offenlegung und Behebung – kann den Umfang des Problems jedoch vergrößern, statt es zu lösen.