Google: Cyberbrottslingar går från AI-frågor till agentstyrda attackflöden

Googles Threat Intelligence Group (GTIG) ser ett tydligt skifte i hur angripare använder AI. Det handlar inte längre bara om enstaka uppgifter som att formulera ett nätfiskemejl, översätta text eller felsöka kod. I stället börjar vissa aktörer koppla samman flera AI-stödda moment till agentstyrda arbetsflöden.

Det betyder inte att helt självgående cyberattacker redan är verklighet. Men när AI-agenter kan hantera flera sammankopplade steg minskar tiden då en människa behöver styra processen. Därmed krymper också det traditionella tidsfönstret för säkerhetsteam att upptäcka, utreda och stoppa ett intrång. 25

Från hjälpmedel till samordnade attackflöden

Tidigare AI-missbruk har ofta bestått av avgränsade produktivitetsuppgifter: att undersöka ett mål, skriva ett övertygande bluffmejl, utveckla eller felsöka kod eller översätta material. Enligt GTIG:s uppdatering från september går mer avancerade angripare nu mot arbetsflöden där AI-system utför flera sammanhängande uppgifter och stöder automatisering med AI. 25

Skillnaden är viktig. Ett sammankopplat flöde kan snabbare röra sig mellan kartläggning, sårbarhetsskanning, insamling av inloggningsuppgifter, teknisk felsökning och efterföljande aktiviteter. Mindre mänsklig inblandning kan innebära att försvarare får betydligt kortare tid på sig att reagera. 25

Stöld av inloggningsuppgifter på mindre än sex timmar

Ett av rapportens tydligaste exempel gäller en ekonomiskt motiverad aktör. Enligt rapporteringen använde gruppen ett ramverk med flera AI-agenter för att bygga upp och starta en storskalig operation för att samla in inloggningsuppgifter på mindre än sex timmar.

Agenterna ska ha automatiserat bland annat skanning, insamling av inloggningsuppgifter och felsökning. 212

Det centrala är alltså inte bara att AI kan skriva ett skript. Agenter kan också hjälpa en operation att fortsätta när den stöter på vanliga tekniska problem, vilket minskar det manuella arbetet som annars krävs för att samordna attacken.

Statskopplade grupper använder AI genom hela intrånget

GTIG rapporterar att statskopplade aktörer använder AI för uppgifter från tidig informationsinhämtning och målundersökning till felsökning under pågående intrång. Den Kinakopplade spionagegruppen BASINCASTLE uppges ha använt stora språkmodeller, LLM:er, både för research och för att lösa problem under intrång. 1

Rapporten beskriver också en annan Kinakopplad grupp som försökte använda Gemini för att bygga ett automatiserat ramverk för penetrationstestning. Avsikten var att låta agentstyrd AI utföra de tidiga faserna av ett intrång självständigt. 1

Sådan AI-användning kan göra nytta för angriparen långt innan en eventuell störande attack: den kan snabba upp research, förenkla tekniska experiment och hjälpa operatörer att anpassa sig när något går fel.

Nätfiske och identitetsbedrägerier förblir ett stort hot

Den mest spridda effekten av generativ AI kan komma att synas i redan kända, människoinriktade angrepp snarare än i helt nya attacktyper. AI kan göra material för nätfiske och social manipulation snabbare att skapa, mer anpassat till mottagaren och mer övertygande på olika språk och i olika regioner.

GTIG har tidigare beskrivit hur angripare använder AI för informationsinhämtning, mycket realistiska nätfiskebedrägerier och utveckling av skadlig kod. 11

Det berör också utgivning för att vara någon annan och påverkansoperationer. AI-stött innehåll kan underlätta mer genomarbetade förevändningar, falska nätidentiteter och vilseledande budskap i stor skala. Enligt rapportering om tredje kvartalets fynd använde iranska statligt stödda grupper Gemini för bland annat nätfiske och skapandet av falska identiteter. 4

För organisationer är slutsatsen enkel: ett välskrivet mejl, dokument eller röstbaserat ärende är inte längre ett tillförlitligt tecken på att avsändaren är legitim.

Viktig reservation: inga helt autonoma attacker har observerats

GTIG:s bedömning ska inte tolkas som att angripare redan har satt in fullt autonoma, sammanhängande attackkedjor mot verkliga mål. Gruppen säger uttryckligen att den ännu inte har observerat hotaktörer som använder helt autonoma pipelines mot mål i det vilda. 2

Rapporten beskriver i stället en utveckling mot ökad självständighet. Agenter kan redan hjälpa till med betydande deluppgifter och länka ihop delar av ett attackflöde, medan människor fortfarande tycks styra mål och beslut med större konsekvenser.

Den närmaste utmaningen är därför inte en enskild ”AI-superhackare”, utan att välbekanta angrepp kan bli snabbare, billigare att driva och svårare att hinna bedöma och stoppa. 25

Vad försvarare bör prioritera

Rapporten pekar på att försvar måste utformas för att möta både hastighet och teknisk sofistikering:

• Se identitetsangrepp som en huvudrisk. Stärk nätfiskeresistent autentisering och övervaka ovanlig användning av inloggningsuppgifter.
• Förkorta tiden till upptäckt och begränsning. Agentstödda operationer kan snabbt gå från kartläggning till åtkomst och datainsamling.
• Verifiera känsliga begäranden via en separat kanal. Ändrade betalningsuppgifter, förfrågningar om lösenord eller uppmaningar att dela känsliga filer bör inte godtas enbart för att ett mejl eller dokument ser trovärdigt ut.
• Skydda AI-tillgångar och utvecklingsflöden. GTIG uppger att angripare i ökande grad riktar in sig på AI-relaterad immateriell egendom, AI-användare, system och svagheter i leveranskedjan. 15

Googles budskap i GTIG:s rapport för tredje kvartalet 2026 är både återhållsamt och brådskande: helt autonoma cyberattacker är ännu inte en observerad realitet, men AI hjälper redan kriminella och statskopplade grupper att göra välkända metoder mer samordnade och skalbara. 25