Řetězce AI agentů mění hledání zranitelností i způsob obrany

Google uvádí, že AVDH byl interně používán přibližně deset měsíců a odhalil desítky zranitelností ve webových rozšířeních a open-source projektech, kterým bylo možné přiřadit identifikátor CVE. Výsledkem je 12 přidělených CVE a přibližně další desítka zranitelností, jejichž zveřejnění se aktivně koordinuje.

Při jednom vyšetřování incidentu, v němž došlo ke krádeži firemních repozitářů, podle externího zpravodajství tento nástroj pomohl během dvou dnů identifikovat více než 100 ověřených zranitelností s vysokou závažností.

Tato čísla ukazují potenciální rozsah AI podporované analýzy, je však třeba je číst s určitou rezervou. Jde o provozní výsledky uváděné Mandiantem a souvisejícími médii, nikoli o nezávisle auditované srovnání s tradičním bezpečnostním testováním. Nálezy také nelze automaticky označit za aktivně zneužívané zero-day chyby: nově objevená nebo dosud nenahlášená zranitelnost nemusí být ve volné přírodě skutečně zneužívána.

NOVA kombinuje více modelů při hledání zranitelností

Unit 42 společnosti Palo Alto Networks popisuje NOVA — zkratku pro Network and Open-Source Vulnerability Analyzer — jako autonomní systém pro objevování, ověřování a hlášení zranitelností. Využívá vlastní agentické nástroje a více pokročilých AI modelů.

Podle testu zveřejněného společností NOVA během dvou měsíců analyzovala 3 915 open-source projektů a identifikovala 14 090 dosud neznámých zranitelností. Unit 42 uvádí, že 99,4 % z nich dříve nebylo nahlášeno a přibližně 40 % mělo vysokou nebo kritickou závažnost.

Význam systému nespočívá pouze v objemu nálezů. Podle dostupného popisu šlo v mnoha případech o sémantické nebo logické chyby, nikoli jen o poškození paměti, na které se tradičně zaměřují automatizované analyzátory. Patřit sem mohou nedostatky v řízení přístupu, zpracování cest, chování požadavků ze serveru nebo ochraně proti vkládání kódu — tedy oblasti, kde je nutné rozumět zamýšlenému chování aplikace.

Stejně jako u AVDH jsou hlavní statistiky uváděny samotným dodavatelem. Označení „dosud neznámé“ samo o sobě nedokazuje, že každý výsledek představuje prakticky zneužitelný zero-day. Také hodnocení závažnosti může záviset na použité metodice. Opatrnější závěr zní, že víceagentní systémy s několika modely už dokážou odhalovat velké množství bezpečnostních kandidátů, které by tradiční procesy nemusely prověřit tak rychle.

Rychlejší hledání samo o sobě nestačí

Rychlejší odhalování chyb může zvýšit obrannou kapacitu, ale zároveň prohloubit problém, pokud organizace stále spoléhají na pomalé cykly nápravy. CERT-EU cituje odhadovanou průměrnou dobu do zneužití ve výši minus sedm dní. Jinými slovy, k útoku může docházet ještě předtím, než je široce dostupná záplata.

To mění roli patchování. Trvalá oprava přímo ve zdrojovém kódu zůstává nezbytná, nemusí však být prvním ani jediným užitečným obranným krokem. Bezpečnostní týmy potřebují mezitím omezit vystavení systému riziku, zatímco vývojáři chybu zkoumají, testují opravu, koordinují její zveřejnění a připravují postupné nasazení.

Síťové „virtuální záplaty“ mají překlenout dobu do opravy

Frontier AI Critical Defense Program společnosti Palo Alto Networks se snaží tento problém řešit koordinací laboratoří vyvíjejících AI, výrobců softwaru a open-source projektů i odvětví, jako jsou průmyslové technologie a zdravotnictví. Navrhovaný přístup využívá síťové „virtuální záplaty“, které mohou zablokovat škodlivý provoz nebo zneužívající chování protokolu ještě před vydáním trvalé softwarové opravy.

Palo Alto uvádí, že jeho funkce Advanced Virtual Patching dokáže ochrany nasadit během hodin, zatímco průměrné odvětvové nasazení běžné záplaty podle tvrzení společnosti trvá 55 dní.

Virtuální záplatu je nejlepší chápat jako kompenzační kontrolu, nikoli jako náhradu opravy zranitelného kódu. Její účinnost závisí na tom, zda tým správně identifikuje útočnou cestu a zda síťové pravidlo dokáže tuto cestu zablokovat bez narušení legitimního provozu. Pokrytí může být omezené také u útoků přes důvěryhodné kanály, šifrovaný provoz, lokální eskalaci oprávnění nebo chování, které je obtížné odlišit od běžného používání.

Mohou obránci znovu získat náskok?

Možná — ale ne pouhým přidáním dalšího AI skeneru.

Silnější obranná architektura propojuje několik fází do jednoho provozního cyklu:

1. Zmapovat kód a útočnou plochu, aby agenti rozuměli fungování systému.
2. Vytvořit a zkontrolovat model hrozeb ještě před rozsáhlým generováním hypotéz.
3. Použít více agentů a modelů, kteří hledají z různých perspektiv a zpochybňují slabé nálezy.
4. Reprodukovat a prioritizovat zranitelnosti s pomocí odborníků a důkazů o jejich zneužitelnosti.
5. Koordinovat zveřejnění a připravit trvalou opravu podle odpovídajícího procesu.
6. Okamžitě omezit vystavení riziku síťovými pravidly nebo jinými kompenzačními opatřeními.
7. Po nasazení záplaty ověřit nápravu a potvrdit, že útočná cesta již nefunguje.

Strategické poselství AVDH a NOVA je proto jasné: výhoda nevzniká z výstupu jediného modelu, ale z jeho koordinace. AI může výrazně zkrátit hledání a ověřování zranitelností. Obránci však stále potřebují spolehlivé důkazy, správné stanovení priorit, odolnou architekturu a systémy nasazení, které dokážou jednat stejnou rychlostí.

Útočníci mohou využívat srovnatelné modely a virtuální záplaty jsou dočasné a závislé na rozsahu pokrytí. Realistickým cílem proto není odstranit riziko zero-day zranitelností. Jde o to, aby obranný cyklus — od objevení přes omezení dopadu až po trvalou nápravu — byl rychlejší a spolehlivější než cesta útočníka od nálezu k jeho zneužití.