KI finner sårbarheter i industriskala – nå er validering flaskehalsen

Mandiants Agentic Vulnerability Discovery Harness (AVDH) peker på en større endring enn selve sårbarhetstallet: KI-basert sikkerhetsforskning blir en konstruert arbeidsflyt, ikke bare et chatbot-eksperiment. Systemet kombinerer spesialiserte agenter, menneskelig gjennomgang av trusselmodeller, analyse av mulige angrepsbaner, uavhengig validering og konsulenter som gjenskaper «proof-of-concept»-utnyttelser. I én hendelseshåndtering skal Google ha funnet over 100 reelle sårbarheter med høy alvorlighetsgrad på to dager.

Det imponerende resultatet betyr likevel ikke at én modell ganske enkelt kan «lese all kode». Den tilsynelatende fordelen ved AVDH kommer av at sårbarhetsjakten deles opp i trinn, at et enormt søkeområde snevres inn, og at sikkerhetseksperter fungerer som en kvalitetskontroll før en mulig feil blir registrert som et sikkerhetsfunn.

AVDH er en arbeidsflyt – ikke én KI-kontrollør

Arkitekturen som er beskrevet for AVDH, følger i stor grad logikken til en erfaren sikkerhetsgjennomgang. Agenter hjelper først med å kartlegge hva en kodebase gjør og hvordan den kan angripes. Andre deler av systemet kartlegger angrepsflaten, finner inngangspunkter, følger dataflyt, lager flere konkurrerende hypoteser om sårbarheter og tester foreslåtte angrepsbaner. Menneskelige konsulenter gjennomgår trusselmodellen og gjenskaper «proof-of-concept»-utnyttelser før funnene behandles som verifiserte.

Denne arbeidsdelingen er viktig fordi kildekodeanalyse gir langt flere mistenkelige mønstre enn sikkerhetsteam kan undersøke manuelt. AVDH kan produsere store mengder mellomfunn, mens valideringstrinnene og den menneskelige gjennomgangen konsentrerer oppmerksomheten om problemer som ser ut til å kunne utnyttes og få reelle konsekvenser.

Google opplyser at AVDH i løpet av de ti første månedene analyserte kodebaser på til sammen flere titalls millioner kodelinjer og produserte titusenvis av funn. I den omtalte to dager lange undersøkelsen identifiserte systemet over 100 reelle, kritiske sårbarheter. Arbeidet har også bidratt til 12 tildelte CVE-numre, mens omtrent et dusin andre saker ifølge rapportene fortsatt er under aktiv varsling.

Det nyttige målet er derfor ikke hvor mange varsler maskinen lager. Det er hvor stor andel av de maskinskapt hypotesene som blir til reproduserbare sårbarheter som håndteres på en ansvarlig måte.

AVDH og Palo Altos NOVA er ikke direkte konkurrenter

Palo Alto Networks har rapportert et langt høyere overskriftstall fra NOVA, selskapets autonome system for sårbarhetsoppdagelse basert på flere KI-modeller. På to måneder analyserte NOVA 3 915 åpen kildekode-prosjekter og rapporterte 14 090 bekreftede sårbarheter. Ifølge Palo Altos egen forskning var 99,4 prosent ikke tidligere rapportert, og 40 prosent ble vurdert som alvorlige eller kritiske.

Tallene beskriver imidlertid en annen arbeidsmodell enn Mandiants AVDH-resultat:

• AVDH: En tidsavgrenset og grundig undersøkelse knyttet til hendelseshåndtering, der menneskelig gjennomgang og gjenskapte angrepsbaner er sentrale kvalitetskontroller.
• NOVA: En skanning i økosystemskala av tusenvis av åpen kildekode-prosjekter, optimalisert for bredde og autonom oppdagelse.

De tilgjengelige rapportene viser ikke at systemene brukte samme utvalg av mål, kriterier for alvorlighetsgrad, terskler for falske positiver, tester av utnyttbarhet eller prosesser for varsling. Overskriftstallene bør derfor ikke brukes som en universell rangering. AVDH viser hvordan agentkjeder kan støtte en undersøkelse med høy tillit i et konkret oppdrag. NOVA viser hvor omfattende autonom oppdagelse kan bli på tvers av åpen kildekode.

Sett under ett tyder resultatene på at sårbarhetsoppdagelse nå deler seg i to problemer: å lete bredt nok til å finne svakheter og å validere dem godt nok til at funnene kan brukes i praksis.

Fra å finne feil til å redusere eksponeringen

Palo Altos svar på raskere oppdagelse handler ikke bare om å finne sårbarheter. Selskapets forslag om Advanced Virtual Patching skal kunne legge nettverksbaserte beskyttelser på plass i løpet av timer. Målet er å redusere eksponeringen mens programvareeierne arbeider med den vanlige utbedringen. Palo Alto sammenligner dette med et bransjegjennomsnitt på rundt 55 dager for tradisjonell patching.

Selskapet har også lansert Frontier AI Critical Defense Program, et samarbeid mellom KI-selskaper, programvareleverandører, åpen kildekode-miljøer og virksomheter innen operasjonsteknologi. Blant de rapporterte deltakerne er Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric og Axis Communications.

Virtuell patching kan være verdifullt når en sårbar tjeneste er tilgjengelig via trafikk som nettverkskontroller kan identifisere og blokkere. Det bør likevel forstås som et kompenserende sikkerhetstiltak, ikke som en erstatning for å rette den underliggende programvaren. Den varige løsningen krever fortsatt at en eier forstår sårbarheten, lager en kodeendring, tester den, distribuerer den og bekrefter at berørte systemer er oppdatert.

Dette skillet blir viktigere når oppdagelsen går raskere. En nettverkskontroll kan redusere den umiddelbare eksponeringen, men løser ikke nødvendigvis sårbar kode i hele applikasjonen eller programvareleverandørkjeden.

Angriperne får den samme akselerasjonen

Fremskrittene på forsvarssiden skjer samtidig som det finnes tegn på at angripere bruker KI til lignende oppgaver. Googles Threat Intelligence Group rapporterte det de beskrev som det første identifiserte tilfellet der en trusselaktør brukte en zero-day-utnyttelse som antas å være utviklet med hjelp av KI. Aktøren planla å bruke utnyttelsen i et angrep i stor skala, men Google sier at selskapets motoppdagelse kan ha hindret dette.

Utnyttelsen var rettet mot en omgåelse av tofaktorautentisering i et populært, åpent webbasert administrasjonsverktøy. Blant tegnene på at en KI-modell trolig hadde bidratt til utviklingen, var pedagogiske kommentarer i koden og en oppdiktet CVSS-score – et standardisert mål på sårbarhetens alvorlighetsgrad.

Det betyr ikke at enhver KI-generert sårbarhet blir til et aktivt angrep. Det betyr derimot at forsvarere ikke lenger kan regne med at kompleks kode, begrenset kapasitet hos sikkerhetsforskere eller et langt tidsrom mellom oppdagelse og utnyttelse automatisk gir dem tid til å reagere.

Cloud Security Alliance advarer derfor om at KI øker hastigheten og omfanget på sårbarhetsoppdagelse raskere enn mange systemer for varsling og patching klarer å håndtere. Flere funn styrker sikkerheten bare dersom organisasjonene faktisk har kapasitet til å prioritere, varsle leverandører, utvikle rettelser og rulle ut beskyttelser på en trygg måte.

Kan forsvarerne ta tilbake initiativet?

Ja – men ikke ved å kjøpe en modell som bare finner sårbarheter. Fordelen går til organisasjoner som kobler oppdagelsen til resten av sikkerhetsarbeidet:

1. Trusselmodellering snevrer inn søket mot realistiske angrepsbaner.
2. Agentbasert analyse utforsker kode og lager flere konkurrerende hypoteser i maskinhastighet.
3. Uavhengig validering reduserer risikoen for at mistenkelige mønstre blir til misvisende rapporter.
4. Menneskelig gjenskaping bekrefter at en foreslått feil faktisk kan utnyttes.
5. Koordinert varsling gir utviklere og leverandører en vei til å reagere.
6. Virtuell patching og andre kompenserende tiltak reduserer eksponeringen mens en kodefiks utvikles.
7. Prioritert utbedring sørger for at de mest tilgjengelige og konsekvensrike sårbarhetene lukkes først.

AVDH illustrerer verdien av en sammenhengende arbeidsflyt: bred automatisert utforskning kombineres med menneskelig skjønn og verifisering av utnyttelser. NOVA illustrerer presset arbeidsflyten må tåle: autonom oppdagelse kan produsere funn i en skala tradisjonelle sikkerhetsteam ikke er bygget for å behandle.

Det fremvoksende KI-kappløpet innen cybersikkerhet handler derfor ikke bare om hvilken modell som finner flest feil. Det handler om hvem som raskest kan fullføre hele kjeden fra oppdagelse til risikoreduksjon – før en motstander rekker å gjøre sårbarheten om til et angrep. Forsvarerne kan ta terreng når de har kontroll over kode, utrullingsløp, telemetri og nettverkskontroller. Men oppdagelse uten validering, eierskap, varsling og utbedring kan i verste fall gjøre problemet større i stedet for å løse det.