Från AI-assistent till attackkedja: så förändras cyberhoten

Det gemensamma budskapet från Google, Anthropic och Microsoft är inte att AI har skapat helt nya sätt att göra intrång. I stället gör tekniken välkända metoder mer repeterbara och sammanhängande: aktörer kan använda modeller för att planera, skapa, testa, anpassa och skala angrepp med mindre specialistarbete och mindre tid vid tangentbordet. Det starkaste underlaget gäller alltså snabbare och bättre koordinerade angrepp – inte system som genomför hela intrång utan meningsfull mänsklig styrning. 107

Från hjälpmedel till delar av en attackkedja

Googles hotspårning beskriver en förflyttning från enstaka promptar till integrerade, agentbaserade arbetsflöden. Sådana arbetsflöden kan omfatta automatiserad sårbarhetsskanning, insamling av inloggningsuppgifter, felsökning och rotation av infrastruktur. Resultatet är att ett angrepp som tidigare krävde flera verktyg och operatörer kan bli en snabbt itererande process. 11

Samtidigt är gränsen viktig: Google uppgav att man ännu inte sett helt autonoma angreppspipelines användas mot mål i det fria. Det handlar snarare om att automatisera och koppla ihop flera steg som tidigare utfördes separat. 11

Vad AI används till i praktiken

Microsofts bedömning är att den mesta skadliga AI-användningen fortfarande kretsar kring att skapa text, kod eller medier. Bland de observerade eller påstådda användningsområdena finns:

• kartläggning och profilering av mål,
• flerspråkiga, mer övertygande nätfiskemeddelanden,
• utveckling och felsökning av skadeprogram och skript,
• uppbyggnad av skript och teknisk infrastruktur,
• sammanfattning av stulen information,
• material för social manipulation, exempelvis falska supportkontakter. 10

Det är just kombinationen som förändrar riskbilden. När en modell kan hjälpa till att generera, testa, justera och sedan generera på nytt, går den etablerade angreppscykeln snabbare – utan att varje enskilt steg behöver vara tekniskt nytt.

Statliga kopplingar och cyberkriminella grupper

Anthropic uppgav att bolaget hade identifierat och stoppat verksamhet med kopplingar till ryska, kinesiska och iranska aktörer, liksom till ekonomiskt motiverade grupper. Fallen omfattade cyberoperationer, påverkansoperationer, övervakning, bedrägerier, biologiskt missbruk, arbete kopplat till konventionella vapen och modellextraktion. 72

Reuters rapporterade bland annat om en misstänkt Rysslandskopplad operation mot ukrainska tjänstemän och om Anthropics anklagelser om kinesiska AI-bolags missbruk av Claude. Det är viktigt att se dessa som företagsattribueringar och fallstudier, inte som ett mått på all global hotaktivitet. 724

Ett återkommande operativt mönster är att skadeprogram kan ändras eller byggas om efter att säkerhetsprodukter har upptäckt dem. Stulna kontouppgifter eller API-nycklar kan dessutom användas som billig tillgång till beräkningsresurser. Den centrala risken är återkopplingsslingan: skapa, testa, revidera och driftsätta i snabb följd – snarare än en enskild skadlig prompt. 87

ShinyHunters visar hur gammalt bedrägeri får ny fart

Microsoft kopplade nätfiskekampanjer med teman kring passkeys och enkel inloggning, SSO, mot företags Microsoft 365-konton till aktörer med kopplingar till ShinyHunters, Helix och närliggande utpressningsgrupper. Det rapporterade mönstret var först kartläggning, sedan imitation av IT-support för att få åtkomst och stjäla data i molntjänster. 3

Det är ett tydligt exempel på att traditionell stöld av inloggningsuppgifter kan förstärkas med bättre målinriktning och mer skalbara lockbeten. Det är däremot inte bevis för att AI självständigt genomförde hela intrånget. 3

Samma ekonomi gäller varumärkesimitation. Trovärdiga supportsidor, nätfiskemeddelanden, chattdialoger och flerspråkiga versioner kan produceras och ändras billigt. För försvarare innebär det större volym, högre grad av individualisering och fler variationer, vilket försvagar filter som bygger på kända mallar eller uppenbara språkfel. Microsoft har specifikt observerat AI-användning för nätfiskelockbeten och översättning. 10

Modellextraktion: AI-modellerna är också måltavlor

Google beskriver systematisk utfrågning av Gemini för att få fram egna egenskaper som en form av destillering eller modellextraktion. Det är främst ett problem för immateriella rättigheter och skyddet av modellernas funktioner, inte bara traditionell cyberbrottslighet. 11

I en sådan attack utnyttjas legitim åtkomst, exempelvis via ett API, för att ställa stora mängder strategiskt utformade frågor och använda svaren för att försöka återskapa delar av en avancerad modells kapacitet. Google har varnat för ökande försök, medan offentlig rapportering beskrivit kampanjer med mycket stora promptvolymer – i vissa fall över 100 miljoner promptar. 1113

Den försiktiga slutsatsen är att angripare kan försöka reproducera användbart beteende i ledande modeller genom massiv API-baserad sondering. Leverantörernas motåtgärder handlar då om att identifiera missbrukande frågemönster och skydda modellernas resonemang, skyddsräcken och andra känsliga egenskaper. 118

Varför kostnadsekvationen har förändrats

AI sänker marginalkostnaden för utkast, lokalisering, research, kodhjälp och upprepad manipulation. Det kan ge mindre resursstarka brottsgrupper och hacktivister delar av den kapacitet som tidigare förknippades med större organisationer. Försvararna måste i sin tur skilja allt mer individanpassat och föränderligt skadligt innehåll från legitim kommunikation. 610

Det innebär en asymmetri i tempo och skala, men inte att alla AI-stödda angrepp lyckas eller att människan har försvunnit ur processen.

Frågan sträcker sig bortom nätfiske

Anthropics rapport omfattar inte bara cyberbrott. Den tar också upp försök till missbruk inom biologisk forskning och utveckling av konventionella vapen. Därför rör diskussionen om ansvarsfull AI även övervakning av missbruk, kontroller av konton och API:er, begränsningar av anropsfrekvens, upptäckt av modellextraktion, informationsdelning om incidenter och skyddsåtgärder för områden med hög konsekvens. 162

Den viktigaste brasklappen är att rapporterna dokumenterar upptäckta och stoppade fall. De visar kapacitet och framväxande arbetssätt, men de fastslår inte på egen hand att autonoma cyberangrepp redan är den vanligaste formen av cyberbrottslighet. 7