AI finder sårbarheder i industriel skala – nu er validering flaskehalsen

Google oplyste, at AVDH i løbet af de første 10 måneder analyserede kodebaser med tilsammen titusinder af millioner kodelinjer og producerede titusinder af fund. I den fremhævede undersøgelse over to dage identificerede systemet mere end 100 reelle kritiske sårbarheder. Det bredere arbejde har desuden bidraget til 12 tildelte CVE-numre, mens omtrent et dusin yderligere problemer angiveligt stadig er under aktiv koordinering af offentliggørelsen.

Det relevante mål er derfor ikke det rå antal advarsler. Det er, hvor stor en andel af maskinens hypoteser der bliver til reproducerbare sårbarheder, som kan håndteres ansvarligt.

AVDH og Palo Altos NOVA er ikke en enkel konkurrence

Palo Alto Networks har rapporteret et langt større tal fra NOVA, virksomhedens autonome system til sårbarhedsopdagelse baseret på flere modeller. På to måneder analyserede NOVA 3.915 open source-projekter og rapporterede 14.090 bekræftede sårbarheder. Ifølge Palo Altos egen forskning var 99,4 procent ikke tidligere rapporteret, mens 40 procent blev vurderet som alvorlige eller kritiske.

Tallene beskriver dog en anden arbejdsform end Mandiants AVDH-resultat:

• AVDH: En tidsafgrænset, dybdegående undersøgelse knyttet til incident response, hvor menneskelig kontrol og reproducerede angrebsveje er centrale kvalitetskontroller.
• NOVA: En analyse i økosystemskala af tusindvis af open source-projekter, optimeret til bredde og autonom opdagelse.

De tilgængelige rapporter fastslår ikke, at de to systemer brugte samme udvælgelse af mål, kriterier for alvorlighedsgrad, grænser for falske positiver, test af udnyttelighed eller processer for offentliggørelse. Hovedtallene bør derfor ikke opfattes som en universel rangliste. AVDH viser, hvordan agentkæder kan understøtte en undersøgelse med høj sikkerhed i en konkret sag. NOVA viser, hvor stor skala autonom opdagelse kan nå på tværs af open source-software.

Samlet peger resultaterne på, at sårbarhedsopdagelse er ved at dele sig i to problemer: Man skal søge bredt nok til at finde svaghederne – og validere dem grundigt nok til, at fundene kan bruges i praksis.

Forsvaret flytter fokus fra opdagelse til reduktion af eksponering

Palo Altos svar på hurtigere opdagelse handler ikke kun om at finde fejl. Forslaget om Advanced Virtual Patching går ud på at indsætte beskyttelse på netværksniveau inden for få timer, så eksponeringen reduceres, mens softwareejerne arbejder på den normale afhjælpning. Palo Alto sammenligner tilgangen med en gennemsnitlig traditionel patchingtid i branchen på omkring 55 dage.

Virksomheden har også annonceret Frontier AI Critical Defense Program, der samler AI-virksomheder, softwareleverandører, open source-deltagere og organisationer inden for operationel teknologi i en koordineret forsvarsindsats. Blandt de rapporterede deltagere er Anthropic, OpenAI, IBM, Red Hat, Microsoft, Siemens, Mitsubishi Electric og Axis Communications.

Virtuel patching kan være værdifuld, når en sårbar tjeneste kan nås gennem trafik, som en netværkskontrol kan identificere og blokere. Det bør dog forstås som en kompenserende kontrol – ikke som en erstatning for at rette den underliggende software. Den varige løsning kræver stadig, at en ansvarlig ejer forstår sårbarheden, ændrer koden, tester ændringen, distribuerer den og bekræfter, at de berørte systemer har modtaget opdateringen.

Den forskel bliver endnu vigtigere, når opdagelsen accelererer. En netværkskontrol kan mindske den umiddelbare eksponering, men den fjerner ikke i sig selv sårbar kode fra hele applikationen eller softwareforsyningskæden.

Angriberne får den samme acceleration

Fremskridtene i forsvaret sker samtidig med tegn på, at angribere bruger AI til lignende opgaver. Googles Threat Intelligence Group rapporterede, hvad gruppen beskrev som det første identificerede tilfælde af en trusselsaktør, der brugte en zero-day-sårbarhed, som man mener var udviklet med hjælp fra AI. Aktøren planlagde at bruge sårbarheden i et omfattende angreb, som Google oplyste, at virksomhedens modopdagelse muligvis forhindrede.

Det rapporterede exploit var rettet mod en omgåelse af tofaktorgodkendelse i et populært open source-værktøj til webbaseret systemadministration. Analysen pegede blandt andet på undervisende kommentarer og en opdigtet CVSS-score som tegn på, at en AI-model sandsynligvis havde medvirket til udviklingen.

Det betyder ikke, at enhver AI-genereret sårbarhed bliver til et operationelt angreb. Men det betyder, at forsvarere ikke længere kan regne med, at kodekompleksitet, begrænset forskerkapacitet eller et langt tidsrum mellem opdagelse og udnyttelse automatisk giver dem tid til at reagere.

Cloud Security Alliances advarsel er derfor central: AI øger hastigheden og omfanget af sårbarhedsopdagelse hurtigere, end mange systemer til offentliggørelse og patching kan absorbere. Flere fund forbedrer kun sikkerheden, hvis organisationerne har kapacitet til at prioritere dem, koordinere offentliggørelsen, udvikle rettelser og rulle beskyttelsen sikkert ud.

Kan forsvarerne genvinde fordelen?

Ja – men ikke ved blot at købe en model, der kan finde sårbarheder. Fordelen tilfalder de organisationer, der forbinder opdagelsen med resten af sikkerhedsdriften:

1. Trusselsmodellering indsnævrer søgningen til realistiske angrebsveje.
2. Agentbaseret analyse udforsker kode og genererer konkurrerende hypoteser i maskinhastighed.
3. Uafhængig validering mindsker risikoen for, at mistænkelige mønstre bliver til misvisende rapporter.
4. Menneskelig reproduktion bekræfter, om en foreslået fejl rent faktisk kan udnyttes.
5. Koordineret offentliggørelse giver vedligeholdere og leverandører en vej til at reagere.
6. Virtuel patching og andre kompenserende kontroller reducerer eksponeringen, mens en kodeændring forberedes.
7. Prioriteret afhjælpning sikrer, at de mest tilgængelige og alvorlige sårbarheder bliver rettet først.

AVDH illustrerer værdien af denne sammenhængende arbejdsgang: Bred automatiseret udforskning kombineres med menneskelig dømmekraft og kontrol af, om et exploit faktisk virker. NOVA illustrerer det pres, som arbejdsgangen skal kunne håndtere: Autonom opdagelse kan producere fund i et omfang, som traditionelle sikkerhedsteams ikke er bygget til at behandle.

Det nye AI-kapløb inden for cybersikkerhed handler derfor ikke blot om, hvilken model der finder flest fejl. Det handler om at gennemføre hele kæden fra opdagelse til risikoreduktion hurtigere, end en modstander kan omsætte en sårbarhed til et angreb. Forsvarerne kan vinde terræn, når de har kontrol over kode, driftspipeline, telemetri og netværkskontroller – men opdagelse uden validering, ejerskab, offentliggørelse og afhjælpning kan i sidste ende gøre problemet større i stedet for at løse det.