AI hittar sårbarheter i industriell skala – nu är valideringen flaskhalsen

Mandiants Agentic Vulnerability Discovery Harness (AVDH) pekar på en större förändring än någon enskild sårbarhetssiffra: AI-stödd säkerhetsforskning håller på att bli ett konstruerat arbetsflöde, inte bara ett experiment med en chattbot. Systemet kombinerar specialiserade AI-agenter, mänsklig granskning av hotmodeller, analys av exploateringsvägar, oberoende validering och proof-of-concept-exploateringar som återskapas av konsulter. I ett incidenthanteringsuppdrag uppger Google att systemet hittade över 100 verifierade sårbarheter med hög allvarlighetsgrad på två dagar.

Resultatet är imponerande, men ska inte tolkas som att en enda modell bara kan läsa igenom all kod. AVDH:s uppenbara styrka ligger i att sårbarhetsforskningen delas upp i flera steg, att en enorm sökyta begränsas och att mänskliga experter fungerar som kvalitetskontroll innan en misstänkt brist blir ett säkerhetsfynd.

AVDH är en pipeline – inte en ensam AI-granskare

Arkitekturen som beskrivs för AVDH följer logiken i en erfaren säkerhetsgranskning. Agenter hjälper först till att fastställa vad en kodbas gör och hur den kan angripas. Andra steg kartlägger attackytan, identifierar ingångspunkter, följer dataflöden, skapar konkurrerande hypoteser om sårbarheter och validerar föreslagna exploateringsvägar. Mänskliga konsulter granskar hotmodellen och återskapar proof-of-concept-exploateringar innan fynden betraktas som verifierade.

Denna arbetsfördelning är viktig eftersom källkodsanalys genererar betydligt fler misstänkta mönster än vad säkerhetsteam kan utreda manuellt. AVDH kan skapa stora mängder mellanresultat, medan valideringsstegen och den mänskliga granskningen riktar uppmärksamheten mot problem som verkar möjliga att exploatera och som kan få verkliga konsekvenser.

Google uppger att AVDH under sina första tio månader analyserade kodbaser som omfattade tiotals miljoner kodrader och producerade tiotusentals fynd. I den uppmärksammade tvådagarsutredningen identifierade systemet över 100 verifierade kritiska sårbarheter. Det bredare arbetet har dessutom bidragit till 12 tilldelade CVE-nummer, medan ungefär ett dussin andra frågor enligt uppgift fortfarande hanteras inom ramen för aktiv sårbarhetsrapportering.

Det relevanta måttet är därför inte det totala antalet larm. Det är hur stor andel av de maskinskapade hypoteserna som kan omvandlas till reproducerbara sårbarheter som hanteras ansvarsfullt.

AVDH och Palo Altos NOVA tävlar inte på samma villkor

Palo Alto Networks har rapporterat en betydligt större totalsiffra från NOVA, företagets autonoma system för att hitta sårbarheter med flera modeller. Under två månader analyserade NOVA 3 915 projekt med öppen källkod och rapporterade 14 090 bekräftade sårbarheter. Enligt Palo Altos forskning hade 99,4 procent inte rapporterats tidigare och 40 procent klassades som allvarliga eller kritiska.

Siffrorna beskriver dock en annan arbetsmodell än Mandiants resultat:

• AVDH: en tidsbegränsad och djupgående granskning kopplad till incidenthantering, där mänsklig granskning och reproducerade exploateringsvägar är viktiga kvalitetskontroller.
• NOVA: en analys på ekosystemnivå av tusentals projekt med öppen källkod, optimerad för bredd och autonom upptäckt.

De tillgängliga rapporterna visar inte att systemen använde samma urval av mål, kriterier för allvarlighetsgrad, trösklar för falska positiva resultat, tester av exploaterbarhet eller processer för sårbarhetsrapportering. Toppsiffrorna bör därför inte ses som en universell ranking. AVDH visar hur agentkedjor kan stödja en säkerhetsutredning med hög tillförlitlighet i ett specifikt uppdrag. NOVA visar vilken skala autonom upptäckt kan nå i programvara med öppen källkod.

Tillsammans pekar resultaten på att sårbarhetsupptäckt håller på att delas upp i två problem: att söka tillräckligt brett för att hitta svagheter och att validera dem tillräckligt väl för att resultaten ska kunna omsättas i åtgärder.

Fokus flyttas från upptäckt till minskad exponering

Palo Altos svar på snabbare upptäckt handlar inte bara om att hitta brister. Företagets förslag om Advanced Virtual Patching går ut på att införa skydd på nätverksnivå inom några timmar. På så sätt kan exponeringen minska medan programvarans ägare arbetar med den vanliga åtgärden. Palo Alto jämför detta med ett branschgenomsnitt på omkring 55 dagar för traditionell patchning.

Företaget har också lanserat Frontier AI Critical Defense Program, ett samordnat försvarsinitiativ där AI-företag, programvaruleverantörer, aktörer inom öppen källkod och organisationer inom operativ teknik samarbetar. Bland de rapporterade deltagarna finns Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric och Axis Communications.

Virtuell patchning kan vara värdefull när en sårbar tjänst nås via trafik som en nätverkskontroll kan identifiera och blockera. Den bör dock ses som en kompenserande kontroll, inte som en ersättning för att rätta den underliggande programvaran. Den hållbara lösningen kräver fortfarande att någon ansvarig förstår sårbarheten, ändrar koden, testar ändringen, distribuerar den och bekräftar att berörda system har uppdaterats.

Skillnaden blir ännu viktigare när upptäckten går snabbare. En nätverkskontroll kan minska den omedelbara exponeringen, men löser inte automatiskt sårbar kod i hela applikationen eller programvarans leveranskedja.

Angriparna får samma acceleration

Den defensiva utvecklingen sker samtidigt som det finns tecken på att angripare använder AI för liknande uppgifter. Googles Threat Intelligence Group rapporterade vad gruppen beskrev som det första identifierade fallet där en hotaktör använde en zero-day-exploatering som tros ha utvecklats med hjälp av AI. Angriparen planerade att använda exploateringen i en storskalig attack, men Google uppgav att den egna motupptäckten kan ha förhindrat angreppet.

Den rapporterade exploateringen riktades mot ett kringgående av tvåfaktorsautentisering i ett populärt webbaserat administrationsverktyg med öppen källkod. Bland de tecken som talade för AI-stöd fanns pedagogiska kommentarer i koden och ett påhittat CVSS-värde – ett standardiserat mått på sårbarheters allvarlighetsgrad.

Det betyder inte att varje AI-genererad sårbarhet blir ett fungerande angrepp. Men det betyder att försvarare inte längre kan räkna med att kodens komplexitet, begränsad forskarkapacitet eller ett långt tidsglapp mellan upptäckt och exploatering automatiskt ger dem tid att agera.

Cloud Security Alliance varnar därför för något centralt: AI ökar hastigheten och omfattningen i sårbarhetsupptäckten snabbare än vad många system för rapportering och patchning klarar av att hantera. Fler fynd förbättrar bara säkerheten om organisationerna har kapacitet att prioritera, samordna rapporteringen, ta fram korrigeringar och införa skydd på ett säkert sätt.

Kan försvararna återta övertaget?

Ja – men inte genom att enbart köpa in en modell som hittar sårbarheter. Fördelen går till organisationer som kopplar upptäckten till resten av säkerhetsarbetet:

1. Hotmodellering begränsar sökningen till realistiska angreppsvägar.
2. Agentbaserad analys utforskar kod och genererar konkurrerande hypoteser i maskinhastighet.
3. Oberoende validering minskar risken att misstänkta mönster blir missvisande rapporter.
4. Mänsklig reproduktion bekräftar om en föreslagen brist faktiskt går att exploatera.
5. Samordnad sårbarhetsrapportering ger utvecklare och leverantörer en väg att agera.
6. Virtuell patchning och andra kompenserande kontroller minskar exponeringen medan en kodfix tas fram.
7. Prioriterad åtgärd ser till att de mest nåbara och mest allvarliga sårbarheterna lagas först.

AVDH illustrerar värdet i detta sammanhängande arbetsflöde: bred automatiserad utforskning kombineras med mänskligt omdöme och verifiering av exploateringar. NOVA illustrerar den press som arbetsflödet måste klara av: autonom upptäckt kan skapa fynd i en omfattning som traditionella säkerhetsteam inte är dimensionerade för att hantera.

Den framväxande AI-kapprustningen inom cybersäkerhet handlar därför inte bara om vilken modell som hittar flest buggar. Det är en tävling om att slutföra hela kedjan från upptäckt till begränsning snabbare än en angripare kan förvandla en sårbarhet till ett angrepp.

Försvarare kan vinna mark där de har kontroll över kod, driftsättning, telemetri och nätverkskontroller – men upptäckt utan validering, ansvar, rapportering och åtgärd kan i slutändan göra problemet större i stället för att lösa det.