AVDH od Mandiantu ukazuje novou podobu kyberbezpečnosti s AI

Systém Agentic Vulnerability Discovery Harness (AVDH), který používá bezpečnostní tým Mandiant patřící pod Google Cloud, ukazuje důležitější trend než jeden působivý počet nalezených chyb: bezpečnostní výzkum s pomocí AI se mění z experimentu s chatbotem v řízený technický proces. AVDH kombinuje specializované AI agenty, lidskou kontrolu modelu hrozeb, analýzu možných cest útoku, nezávislé ověřování a konzultanty, kteří reprodukují proof-of-concept exploity. Během jednoho incident-response nasazení Google uvedl, že systém za dva dny objevil více než 100 skutečně pozitivních zranitelností s kritickou závažností.

Tento výsledek ale neznamená, že jediný model jednoduše „přečetl celý kód“. Výhoda AVDH spočívá v rozdělení výzkumu do několika fází, v postupném zúžení obrovského prostoru možných problémů a v zapojení lidských expertů jako kvalitativní brány. Teprve když je podezřelá chyba ověřena a lze reprodukovat její zneužití, stává se z ní relevantní bezpečnostní nález.

AVDH není jediný AI kontrolor, ale celý řetězec kroků

Architektura AVDH popsaná společností Mandiant připomíná práci zkušeného bezpečnostního týmu. Agenti nejprve pomáhají určit, k čemu daná softwarová základna slouží a jak by mohla být napadena. Další fáze mapují útočnou plochu, hledají vstupní body, sledují tok dat, vytvářejí několik konkurenčních hypotéz o možných zranitelnostech a ověřují navržené cesty exploitu. Lidský konzultant kontroluje model hrozeb a následně reprodukuje proof-of-concept exploit, než je nález považován za ověřený.

Toto rozdělení práce je důležité, protože analýza zdrojového kódu vytváří mnohem více podezřelých vzorců, než mohou bezpečnostní týmy ručně prověřit. AVDH dokáže vyprodukovat velké množství průběžných zjištění, zatímco validační fáze a lidská kontrola soustředí pozornost na problémy, které vypadají jako skutečně zneužitelné a závažné.

Google uvedl, že během prvních deseti měsíců používání AVDH systém analyzoval kódové základny o desítkách milionů řádků a vytvořil desítky tisíc nálezů. V popisovaném dvoudenním šetření identifikoval více než 100 skutečně pozitivních kritických zranitelností. Širší práce vedla také k přidělení 12 identifikátorů CVE, přičemž přibližně další desítka problémů podle dostupných informací stále prochází aktivním procesem zveřejňování.

Užitečným měřítkem proto není hrubý počet upozornění. Podstatné je, kolik strojově vytvořených hypotéz se podaří převést na reprodukovatelné zranitelnosti, které lze zodpovědně nahlásit a řešit.

AVDH a NOVA nejsou soupeři ve stejné disciplíně

Palo Alto Networks zveřejnilo z nástroje NOVA, svého autonomního systému pro hledání zranitelností založeného na více modelech, výrazně větší číslo. Podle výzkumu společnosti NOVA za dva měsíce analyzovala 3 915 open-source projektů a nahlásila 14 090 potvrzených zranitelností. U 99,4 procenta z nich šlo podle Palo Alto o dříve nehlášené problémy a 40 procent mělo vysokou nebo kritickou závažnost.

Tato čísla popisují jiný provozní model než výsledek AVDH:

• AVDH: časově omezené, detailně prověřené šetření navázané na reakci na incident. Důležitou kontrolou je lidské posouzení a reprodukce cesty k exploitu.
• NOVA: skenování ekosystému napříč tisíci open-source projektů, zaměřené na šíři a autonomní objevování.

Dostupné zprávy nepotvrzují, že oba systémy používaly stejný výběr cílů, kritéria závažnosti, práh falešně pozitivních nálezů, testy zneužitelnosti nebo postupy zveřejňování. Jejich hlavní čísla proto nelze chápat jako univerzální žebříček.

AVDH ukazuje, jak mohou řetězce agentů podpořit vysoce důvěryhodné šetření v konkrétním případu. NOVA zase ukazuje, v jakém měřítku může autonomní hledání fungovat napříč open-source softwarem. Společně naznačují, že objevování zranitelností se rozděluje na dva problémy: najít slabiny v dostatečně širokém prostoru a následně je dostatečně dobře ověřit, aby byly prakticky využitelné pro obranu.

Těžiště obrany se přesouvá od hledání k omezení vystavení

Odpovědí Palo Alto Networks na rychlejší objevování není jen další hledání chyb. Návrh Advanced Virtual Patching má nasadit ochranu na úrovni sítě během několika hodin a omezit dobu, po kterou je systém zranitelný, zatímco vlastníci softwaru připravují běžnou opravu. Palo Alto tento přístup porovnává s tradičním záplatováním, které podle něj v průměru trvá přibližně 55 dní.

Společnost zároveň oznámila program Frontier AI Critical Defense Program. Ten propojuje firmy vyvíjející AI, dodavatele softwaru, open-source komunitu a organizace působící v provozních technologiích. Mezi uváděné účastníky patří Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric a Axis Communications.

Virtuální záplata může být cenná v situaci, kdy je zranitelná služba dostupná prostřednictvím provozu, který lze na síti rozpoznat a zablokovat. Je však vhodné chápat ji jako kompenzační kontrolu, nikoli jako náhradu opravy samotného softwaru. Trvalé řešení stále vyžaduje, aby vlastník zranitelnosti porozuměl, provedl změnu v kódu, otestoval ji, distribuoval a ověřil, že ji obdržely všechny zasažené systémy.

Tento rozdíl je s rychlejším objevováním ještě důležitější. Síťová ochrana může snížit okamžité riziko, sama o sobě však neopraví zranitelný kód v celé aplikaci ani v dodavatelském řetězci softwaru.

Stejné zrychlení získávají i útočníci

Pokrok na straně obrany probíhá současně s důkazy, že AI používají podobným způsobem také útočníci. Google Threat Intelligence Group informovala o tom, co popsala jako první identifikovaný případ, kdy aktér hrozby použil zero-day exploit, o němž se předpokládá, že byl vytvořen s pomocí AI. Útočník jej plánoval využít při rozsáhlém útoku, kterému podle Googlu zabránilo proaktivní odhalení ze strany bezpečnostního týmu.

Nahlášený exploit cílil na obejití dvoufaktorového ověřování v populárním open-source nástroji pro webovou správu. Mezi indicie možné pomoci jazykového modelu patřily výukové komentáře a smyšlené skóre CVSS.

Neznamená to, že každá zranitelnost vytvořená AI se automaticky promění v útok. Znamená to ale, že obránci už nemohou spoléhat na složitost kódu, omezenou kapacitu výzkumníků nebo dlouhou prodlevu mezi objevením chyby a jejím zneužitím jako na spolehlivou časovou rezervu.

Varování Cloud Security Alliance je proto zásadní: AI zvyšuje rychlost a rozsah hledání zranitelností rychleji, než dokážou mnohé systémy zveřejňování a záplatování absorbovat. Větší počet nálezů zlepší bezpečnost jen tehdy, pokud organizace zvládnou zprávy třídit, koordinovat jejich zveřejnění, vytvořit opravy a bezpečně nasadit ochranná opatření.

Mohou obránci znovu získat náskok?

Ano, ale ne pouhým nákupem modelu, který hledá chyby. Výhodu získají organizace, které objevování propojí s celým bezpečnostním provozem:

1. Modelování hrozeb zúží hledání na realistické cesty útoku.
2. Agentní analýza prozkoumá kód a vytvoří konkurenční hypotézy strojovou rychlostí.
3. Nezávislé ověřování omezí riziko, že podezřelé vzorce povedou k zavádějícím hlášením.
4. Lidská reprodukce potvrdí, zda lze navrženou chybu skutečně zneužít.
5. Koordinované zveřejňování poskytne správcům a dodavatelům cestu k reakci.
6. Virtuální záplatování a další kompenzační kontroly sníží vystavení riziku, než bude připravena oprava kódu.
7. Prioritizovaná náprava zajistí, že jako první budou opraveny nejdostupnější a nejzávažnější zranitelnosti.

AVDH ilustruje hodnotu tohoto propojeného pracovního postupu: široké automatizované prohledávání doplňuje lidský úsudek a ověřování exploitů. NOVA zase ukazuje tlak, který musí tento proces zvládnout: autonomní hledání může vytvářet nálezy v měřítku, na něž tradiční bezpečnostní týmy nebyly navrženy.

Rozvíjející se závod v kyberbezpečnosti s AI proto není jen soutěží o to, který model najde nejvíce chyb. Jde o rychlost celého řetězce od odhalení po zmírnění dopadu — a o to, zda jej obránci zvládnou dokončit dříve, než protivník promění zranitelnost v útok.

Obránci mohou získat půdu tam, kde mají pod kontrolou kód, vývojový a nasazovací proces, telemetrii i síťová opatření. Samotné objevování bez ověření, jasného vlastníka, koordinovaného zveřejnění a nápravy však může velikost problému ještě zvětšit, nikoli jej vyřešit.