Fra AI-assistent til angrebsoperatør: Sådan ændrer AI cybertruslen

Det fælles hovedbudskab er ikke, at AI har opfundet helt nye måder at trænge ind i systemer på. Det er snarere, at kendt cyberkriminelt håndværk kan gøres til gentagelige arbejdsgange i flere trin: Modeller kan hjælpe aktører med at planlægge, generere, afprøve, tilpasse og opskalere angreb med mindre behov for specialistarbejde og mindre tid ved tastaturet. Dokumentationen er stærkest for, at AI accelererer og koordinerer velkendte operationer – ikke for systemer, der arbejder helt selvstændigt uden væsentlig menneskelig styring. 107

Fra hjælperedskab til operatør

Googles tracker beskrev en bevægelse fra enkeltstående prompts til integrerede, agentbaserede arbejdsgange. Det omfattede blandt andet automatiseret scanning, indsamling af loginoplysninger, fejlfinding og skift af infrastruktur. Dermed kan et angreb, som tidligere krævede flere værktøjer og personer, samles i en arbejdsgang, der hurtigt kan gentage og justere sine trin. 11

Hvad bruges AI til?

På tværs af rapporterne indgår observeret eller påstået brug af AI til research og profilering af mål, flersprogede spear-phishing-beskeder, udvikling og fejlfinding af malware og scripts, opbygning af infrastruktur, opsummering af stjålne data og materiale til social manipulation. Microsofts vurdering er dog, at langt størstedelen af den ondsindede AI-brug stadig handler om at producere tekst, kode eller medier – ikke om fuldautomatisk kompromittering fra start til slut. 10

Statsforbundne aktører og økonomisk motiverede grupper

Anthropic oplyste, at virksomheden havde afbrudt aktivitet med forbindelser til russiske, kinesiske og iranske aktører samt økonomisk motiverede grupper. Sagerne dækkede cyberoperationer, påvirkningskampagner, overvågning, svindel, biologisk misbrug, arbejde med konventionelle våben og modeldestillation. Reuters skrev, at Anthropics eksempler omfattede en Rusland-forbundet operation rettet mod ukrainske embedsfolk og påstået misbrug af Claude hos kinesiske AI-selskaber. Der er tale om virksomhedens egne tilskrivninger og konkrete cases – ikke et samlet mål for al trusselsaktivitet. 724

Hvorfor agentbaseret brug ændrer tempoet

Anthropics beskrevne sager illustrerer den operationelle betydning: En angriber kan bede en model om at ændre eller genskabe kode, når sikkerhedsprodukter har markeret den, anvende kompromitterede loginoplysninger eller API-nøgler som billig regnekraft og gentage processen i højt tempo. Risikoen ligger derfor i feedbacksløjfen – generér, test, ret, udsend – snarere end i én enkelt ondsindet prompt. 87

ShinyHunters: Velkendt credential theft i større skala

Microsoft tilskrev social engineering-kampagner med passkeys og single sign-on (SSO) mod virksomhedsbrugere af Microsoft 365 til aktører med forbindelser til ShinyHunters, Helix og beslægtede afpresningsgrupper. Det rapporterede mønster var først rekognoscering og derefter efterligning af it-support for at få adgang og stjæle data fra skyen. Det er et eksempel på klassisk tyveri af loginoplysninger, forbedret af bedre målretning og lokkemidler, der kan fremstilles i stor skala – ikke et bevis på, at AI selv gennemførte hele indbruddet. 3

Efterligning og phishing bliver mere overbevisende

AI-baseret brandefterligning følger den samme økonomi. Troværdige supportsider, phishing-beskeder, chats, kopierede stemmer eller billeder og flersprogede varianter kan produceres og opdateres billigt. For forsvarere betyder det flere beskeder, mere målretning og større variation, hvilket svækker filtre, der er afhængige af kendte skabeloner eller tydelige sproglige fejl. Microsoft har specifikt observeret AI-brug til phishing-lokkemidler og oversættelse. 10

Modeldestillation er også en sikkerhedstrussel

Google har beskrevet systematisk forespørgselsaktivitet mod Gemini med henblik på at udtrække proprietære egenskaber som "destillation" eller modelekstraktion. Det er både et problem for intellektuel ejendom og for sikkerheden omkring modelkapaciteter – ikke kun almindelig cyberkriminalitet. Offentlig rapportering har omtalt kampagner med meget store mængder prompts. Den mest forsvarlige læsning er, at angribere kan forsøge at genskabe nyttig adfærd fra avancerede modeller gennem API-afprøvning, mens udbydere forsøger at opdage misbrug og beskytte modellernes ræsonnement og sikkerhedsforanstaltninger. 118

En ændret pris for at angribe – og forsvare

AI sænker meromkostningen ved at skrive, lokalisere indhold, udføre research, få kodehjælp og løbende tilpasse bedrag. Det kan give mindre veludstyrede kriminelle grupper og hacktivister dele af den kapacitet, der tidligere var forbundet med større hold. Samtidig skal forsvarere skelne mere individualiseret og hyppigt ændret ondsindet indhold fra legitim kommunikation. Rapporterne peger dermed på en asymmetri i hastighed og skala – ikke på, at ethvert AI-understøttet angreb nødvendigvis lykkes. 610

Konsekvensen for ansvarlig AI

Spørgsmålene om adgang, kapabiliteter og overvågning rækker ud over cyberkriminalitet. Anthropics rapport omfattede også forsøg på misbrug i forbindelse med biologisk forskning og udvikling af konventionelle våben. Derfor handler debatten ikke kun om phishing-forsvar, men også om overvågning af misbrug, konto- og API-kontrol, hastighedsbegrænsninger, opdagelse af modelekstraktion, deling af hændelsesoplysninger og værn omkring områder med alvorlige konsekvenser. 162

Det afgørende forbehold er, at publikationerne beskriver opdagede og afbrudte sager. De viser kapacitet og nye operationelle mønstre, men kan ikke i sig selv dokumentere, at autonome angreb nu er den dominerende form for cyberkriminalitet. 7