AI przyspiesza wykrywanie luk, ale obrońcy muszą nadążyć z ich potwierdzaniem i usuwaniem

Najważniejszą informacją płynącą z ujawnienia systemu Agentic Vulnerability Discovery Harness (AVDH) przez Mandiant nie jest sama liczba znalezionych luk. Przełom polega na tym, że badanie bezpieczeństwa kodu zaczyna przypominać zaprojektowany proces produkcyjny, a nie eksperyment z chatbotem.

AVDH łączy wyspecjalizowanych agentów AI, analizę ścieżek ataku, ocenę modelu zagrożeń przez człowieka, niezależną walidację oraz odtwarzanie exploitów typu proof of concept przez konsultantów. W jednym zleceniodawczym dochodzeniu reagowania na incydent Google poinformował o wykryciu ponad 100 prawdziwie pozytywnych luk o krytycznym poziomie zagrożenia w ciągu dwóch dni.

Nie oznacza to jednak, że pojedynczy model potrafi po prostu „przeczytać cały kod” i bezbłędnie wskazać wszystkie problemy. Przewaga AVDH wynika z podziału badań na etapy: ograniczenia ogromnej przestrzeni poszukiwań, generowania wielu hipotez oraz dopuszczenia człowieka jako bramki jakości, zanim podejrzany fragment zostanie uznany za rzeczywiste znalezisko.

AVDH to potok pracy, a nie jeden recenzent AI

Architektura AVDH opisana przez Mandiant przypomina sposób działania doświadczonego zespołu bezpieczeństwa. Najpierw agenci ustalają, do czego służy analizowana baza kodu i w jaki sposób może zostać zaatakowana. Kolejne etapy odwzorowują powierzchnię ataku, wyszukują punkty wejścia, śledzą przepływ danych, generują konkurencyjne hipotezy dotyczące luk i sprawdzają proponowane ścieżki eksploatacji. Konsultanci weryfikują model zagrożeń, a następnie odtwarzają exploity proof of concept, zanim dane znalezisko zostanie uznane za potwierdzone.

Taki podział zadań ma znaczenie, ponieważ analiza kodu źródłowego generuje znacznie więcej podejrzanych wzorców, niż zespoły bezpieczeństwa są w stanie ręcznie zbadać. AVDH może więc tworzyć dużą liczbę wyników pośrednich, natomiast etapy walidacji i ocena ekspertów kierują uwagę na problemy, które wyglądają na wykonalne w praktyce i potencjalnie groźne.

Google podał, że w ciągu pierwszych 10 miesięcy używania AVDH system analizował bazy kodu obejmujące dziesiątki milionów linii i wygenerował dziesiątki tysięcy wyników. W wyróżnionym dochodzeniu trwającym dwa dni zidentyfikował ponad 100 prawdziwie pozytywnych luk o krytycznym poziomie zagrożenia. Szersze prace przyczyniły się również do przypisania 12 identyfikatorów CVE, a około kolejnych 12 problemów miało pozostawać w aktywnym procesie ujawniania.

Dlatego użyteczną miarą nie jest surowa liczba alertów. Ważniejsze jest to, ile wygenerowanych przez maszynę hipotez udaje się przekształcić w powtarzalne, odpowiedzialnie obsłużone luki.

AVDH i NOVA nie tworzą prostego rankingu

Palo Alto Networks podało znacznie większą liczbę w przypadku systemu NOVA — autonomicznego, wielomodelowego narzędzia do wyszukiwania luk. Według badań firmy w ciągu dwóch miesięcy NOVA przeanalizował 3915 projektów open source i zgłosił 14 090 potwierdzonych luk. 99,4 proc. z nich nie było wcześniej zgłoszonych, a 40 proc. otrzymało ocenę wysoką lub krytyczną.

To jednak inny model działania niż wynik AVDH:

• AVDH przeprowadza ograniczoną w czasie, pogłębioną analizę powiązaną z reagowaniem na incydent. Kontrola człowieka i odtworzenie ścieżki exploita są istotnymi elementami jakości.
• NOVA działa na poziomie całego ekosystemu, skanując tysiące projektów open source i optymalizując autonomiczne wykrywanie na dużą skalę.

Dostępne raporty nie dowodzą, że oba systemy używały tych samych metod doboru celów, kryteriów oceny dotkliwości, progów fałszywych alarmów, testów wykonalności ataku ani procedur ujawniania. Ich nagłówkowych liczb nie należy więc traktować jako uniwersalnej tabeli wyników.

AVDH pokazuje, jak łańcuch agentów może wspierać analizę o wysokiej pewności w konkretnym zleceniu. NOVA pokazuje natomiast skalę, z jaką autonomiczne wyszukiwanie może działać w oprogramowaniu open source. Razem wskazują, że badanie luk dzieli się dziś na dwa problemy: trzeba szukać wystarczająco szeroko, by je znaleźć, i wystarczająco dobrze je zweryfikować, by wynik nadawał się do działania.

Od wykrywania do ograniczania ekspozycji

Odpowiedzią Palo Alto Networks na szybsze wykrywanie nie jest samo wyszukiwanie błędów. Firma zaproponowała Advanced Virtual Patching, czyli wdrażanie zabezpieczeń na poziomie sieci w ciągu kilku godzin. Ma to ograniczyć ekspozycję, podczas gdy właściciele oprogramowania pracują nad standardową poprawką. Palo Alto porównuje ten czas ze średnim okresem około 55 dni potrzebnym w branży na tradycyjne załatanie luki.

Firma ogłosiła również Frontier AI Critical Defense Program — program koordynujący współpracę laboratoriów AI, dostawców oprogramowania, społeczności open source i organizacji związanych z technologią operacyjną. Wśród wymienianych uczestników znalazły się między innymi Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric i Axis Communications.

Wirtualna poprawka może być cenna, gdy podatna usługa jest dostępna przez ruch, który można rozpoznać i zablokować na poziomie sieci. Należy ją jednak traktować jako środek kompensacyjny, a nie zamiennik naprawy oprogramowania. Trwałe rozwiązanie nadal wymaga zrozumienia luki przez właściciela systemu, przygotowania zmiany w kodzie, jej przetestowania, dystrybucji i potwierdzenia, że wszystkie podatne systemy otrzymały poprawkę.

Rozróżnienie to będzie coraz ważniejsze wraz z przyspieszeniem wykrywania. Kontrola sieciowa może szybko ograniczyć bieżącą ekspozycję, ale sama nie naprawia podatnego kodu w całej aplikacji ani w łańcuchu dostaw oprogramowania.

Napastnicy zyskują to samo przyspieszenie

Postęp po stronie obrony następuje równolegle z dowodami, że napastnicy wykorzystują AI do podobnych zadań. Google Threat Intelligence Group poinformował o pierwszym zidentyfikowanym przypadku użycia przez aktora zagrożeń exploita zero-day, który — zdaniem Google — został opracowany z pomocą AI. Napastnik planował użyć go w szeroko zakrojonym ataku, lecz proaktywne działania analityków Google mogły temu zapobiec.

Exploit miał wykorzystywać obejście uwierzytelniania dwuskładnikowego w popularnym narzędziu open source do administracji systemem przez przeglądarkę. Wśród przesłanek wskazujących na prawdopodobny udział modelu AI wymieniano między innymi edukacyjne komentarze oraz zmyślony wynik CVSS — standardowej oceny ciężaru podatności.

Nie oznacza to, że każda luka wygenerowana przez AI natychmiast stanie się działającym atakiem. Oznacza jednak, że obrońcy nie mogą już zakładać, iż złożoność kodu, ograniczona liczba badaczy lub długa przerwa między wykryciem a wykorzystaniem zapewnią im wystarczająco dużo czasu na reakcję.

Ostrzeżenie Cloud Security Alliance jest w tym kontekście kluczowe: AI zwiększa szybkość i skalę wykrywania luk szybciej, niż wiele systemów ujawniania i łatania jest w stanie je obsłużyć. Większa liczba znalezisk poprawi bezpieczeństwo tylko wtedy, gdy organizacje będą miały zasoby do ich sortowania, koordynowania ujawnień, budowania poprawek i bezpiecznego wdrażania zabezpieczeń.

Czy obrońcy mogą odzyskać przewagę?

Tak, ale nie przez samo kupienie modelu wyszukującego luki. Przewagę zyskają organizacje, które połączą wykrywanie z całym operacyjnym systemem bezpieczeństwa:

1. Modelowanie zagrożeń zawęża poszukiwania do realistycznych ścieżek ataku.
2. Analiza agentowa pozwala badać kod i generować konkurencyjne hipotezy z szybkością maszyny.
3. Niezależna walidacja ogranicza ryzyko, że podejrzane wzorce zamienią się w mylące raporty.
4. Odtworzenie przez człowieka potwierdza, czy proponowana luka rzeczywiście może zostać wykorzystana.
5. Skoordynowane ujawnianie daje opiekunom projektów i dostawcom drogę do reakcji.
6. Wirtualne poprawki i inne środki kompensacyjne ograniczają ekspozycję, gdy właściwa zmiana w kodzie jest jeszcze przygotowywana.
7. Priorytetyzacja napraw kieruje zasoby najpierw na luki najbardziej dostępne i najbardziej konsekwencjalne.

AVDH pokazuje wartość takiego połączonego procesu: szeroka automatyczna eksploracja jest uzupełniona ludzkim osądem i weryfikacją exploita. NOVA pokazuje presję, z którą ten proces musi sobie poradzić — autonomiczne wyszukiwanie może generować wyniki na skalę, do której tradycyjne zespoły bezpieczeństwa nie były projektowane.

Wschodzący wyścig zbrojeń w cyberbezpieczeństwie opartym na AI nie jest więc wyłącznie konkurencją o to, który model znajdzie najwięcej błędów. To wyścig o jak najszybsze przejście całej drogi od wykrycia do ograniczenia ryzyka — zanim przeciwnik zamieni lukę w atak.

Obrońcy mogą zyskać przewagę tam, gdzie kontrolują kod, proces wdrażania, telemetrię i zabezpieczenia sieciowe. Samo wykrywanie bez walidacji, odpowiedzialnego właściciela, ujawnienia i naprawy może jednak zwiększyć rozmiar problemu, zamiast go rozwiązać.