Fra AI-assistent til angrepsverktøy: Slik endres cybertrusselen

Det sentrale funnet er ikke at AI har skapt helt nye former for dataangrep. Snarere gjør teknologien kjent angrepshåndverk om til repeterbare arbeidsflyter med flere trinn: modeller kan hjelpe aktører med å planlegge, produsere, teste, tilpasse og skalere angrep med mindre behov for spesialkompetanse og manuelt arbeid. Dokumentasjonen er sterkest for at AI akselererer og samordner velkjente operasjoner – ikke for at fullt selvstendige systemer gjennomfører innbrudd uten vesentlig menneskelig styring. 107

Fra assistent til delvis automatisert operatør

Googles trusselsporing beskrev en bevegelse bort fra enkeltstående spørsmål til mer integrerte, agentbaserte arbeidsflyter. Slike oppsett kan blant annet brukes til sårbarhetsskanning, innhenting av innloggingsopplysninger, feilsøking og rotasjon av infrastruktur. Konsekvensen er at en angrepsprosess som tidligere krevde flere verktøy og operatører, kan bli en raskt itererende pipeline. 11

Samtidig er det viktig å ikke overdrive graden av autonomi. Microsofts vurdering er at mesteparten av den ondsinnede AI-bruken fortsatt handler om å lage tekst, kode eller medieinnhold. Det omfatter phishing-lokkemidler, oversettelser, oppsummering av stjålne data, utvikling og feilsøking av skadevare, samt oppsett av skript og infrastruktur. 10

Phishing og kredentialtyveri blir lettere å skalere

For kriminelle er gevinsten særlig tydelig i de tidlige og gjentakende delene av et angrep: målrettet informasjonsinnhenting, profilering av ofre, flerspråklige phishing-meldinger og sosial manipulering. AI kan gjøre lokkemidler mer språklig troverdige og mer varierte, slik at forsvar som er avhengig av kjente maler eller åpenbare språkfeil, får dårligere forutsetninger. Microsoft har konkret observert AI brukt til å lage phishing-lokker og oversette innhold. 10

Et eksempel er kampanjer mot Microsoft 365-kontoer med temaer knyttet til passnøkler og enkel pålogging (SSO). Microsoft knyttet aktiviteten til aktører med forbindelser til ShinyHunters, Helix og relaterte utpressingsgrupper. Mønsteret som ble rapportert, var rekognosering etterfulgt av falsk IT-support for å få tilgang og stjele skytjenestedata. Det illustrerer først og fremst tradisjonelt kredentialtyveri, forbedret med bedre målretting og skalerbare lokkemidler – ikke et bevis på at AI selv utførte hele innbruddet. 3

Statstilknyttede aktører og kriminelle grupper

Anthropic opplyste at selskapet hadde stanset aktivitet knyttet til russisk-, kinesisk- og iransktilknyttede aktører, i tillegg til økonomisk motiverte grupper. Sakene omfattet cyberoperasjoner, påvirkningsoperasjoner, overvåking, svindel, mulig biologisk misbruk, arbeid knyttet til konvensjonelle våpen og modelluttrekking. 72

Reuters rapporterte at Anthropics eksempler blant annet omfattet en Russland-tilknyttet operasjon rettet mot ukrainske tjenestepersoner og påstander om kinesiske AI-selskapers misbruk av Claude. Dette er selskapets attribueringer og utvalgte casestudier, ikke et mål på all global trusselaktivitet. 724

Den operative betydningen av mer agentbasert bruk ligger i tilbakekoblingen: generere, teste, revidere og distribuere. En angriper kan for eksempel forsøke å få en modell til å endre eller bygge om kode etter at sikkerhetsprodukter har oppdaget den, eller bruke kompromitterte kontoer og API-nøkler som rimelig datakraft. Risikoen er dermed ikke én enkelt ondsinnet forespørsel, men en rask iterasjonssløyfe. 87

Modelluttrekking er også et sikkerhetsproblem

Google har omtalt systematisk utspørring av Gemini for å hente ut proprietære kapabiliteter som «distillation» eller modelluttrekking. Dette er en trussel mot immaterielle verdier og modellkapabiliteter, ikke bare ordinær cyberkriminalitet. 11

Angrepet kan skje gjennom legitim tilgang, for eksempel via et API: Aktøren sender store mengder målrettede forespørsler for å samle informasjon som kan brukes til å etterligne nyttig modellatferd. Offentlig omtale har beskrevet kampanjer med svært store mengder forespørsler. Den forsiktige tolkningen er at angripere prøver å reprodusere verdifulle egenskaper i avanserte modeller, mens leverandørene forsøker å oppdage misbrukende spørringer og beskytte modellens funksjoner og sikkerhetsmekanismer. 118

En endret kostnadsligning for forsvarerne

AI reduserer marginalkostnaden ved utforming av innhold, lokalisering, research, kodehjelp og løpende tilpasning av bedrag. Dermed kan mindre ressurssterke kriminelle grupper og hacktivister få tilgang til deler av kapasiteten som tidligere krevde større team. For forsvarere betyr det flere individuelle, hyppig endrede og språklig tilpassede forsøk som må skilles fra legitim kommunikasjon. 610

Rapportene peker derfor mot en asymmetri i tempo og skala, ikke en garanti for at AI-støttede angrep lykkes. Det viktige forsvarsspørsmålet blir hvor raskt en organisasjon kan oppdage og stanse en kampanje som stadig får nye varianter.

Handler også om ansvarlig AI

Problemstillingen stopper ikke ved phishing. Anthropics rapport omfattet også forsøk på misbruk innen biologisk forskning og utvikling av konvensjonelle våpen, i tillegg til cyberoperasjoner. Derfor dreier debatten om ansvarlig AI seg også om overvåking av misbruk, konto- og API-kontroller, begrensninger på forespørsler, oppdagelse av modelluttrekking, deling av hendelsesinformasjon og særskilte vern i områder med alvorlige konsekvenser. 162

Det avgjørende forbeholdet er at rapportene beskriver oppdagede og stansede saker. De viser både kapasitet og nye operasjonsmønstre, men dokumenterer ikke at autonome cyberangrep allerede er den dominerende formen for cyberkriminalitet. 7