Falska AI-samarbeten användes i nätfiske mot policyexperter

En inbjudan att delta i ett nytt AI-projekt kan låta trovärdig – särskilt när den ser ut att komma från en välkänd expert. Men enligt cybersäkerhetsföretaget Proofpoint använde den nätfiskegruppen TA419 just sådana mejl för att försöka komma över lösenord från personer med insyn i AI-politik. Försöken ska ha pågått åtminstone sedan 2025 och riktats mot personer i USA och Japan. 17

Vilka försökte gruppen nå?

Måltavlorna arbetade vid tankesmedjor, försvarsentreprenörer, universitet och advokatbyråer. Bland dem fanns experter på reglering av artificiell intelligens, exportkontroller, nationell AI-strategi och militär användning av AI. 17

Enligt Proofpoint var kampanjen avgränsad och riktad mot ett mindre antal personer och organisationer, snarare än bred och urskillningslös. Det gör urvalet av måltavlor särskilt betydelsefullt: de kunde ha insyn i policyarbete och strategiska frågor.

Så fungerade mejlen

Meddelandena såg ut att komma från personer med sakkunskap inom AI eller politik, däribland Lynne Parker, en tidigare tjänsteman vid Vita huset. Mejlen föreslog samarbeten eller initiativ kopplade till AI och ledde mottagarna vidare till webbplatser som var utformade för att stjäla lösenord. 19

Om angripare får tillgång till ett mejlkonto kan innehållet i inkorgen också bli åtkomligt. Men rapporteringen beskriver försök att stjäla inloggningsuppgifter – den bekräftar inte att angriparna faktiskt kom åt specifika konton eller mejl. 19

Alex Engler genomskådade avsändaren

Alex Engler, tidigare tjänsteman vid Vita huset, berättade för Reuters att han fick ett mejl från någon som utgav sig för att vara Parker. Meddelandet bjöd in honom att delta i ett nytt AI-policyprojekt. Han tyckte att något verkade fel och insåg, efter att ha stämt av med andra i branschen, att avsändaren var en bedragare. Det finns inga uppgifter om att han lämnade ifrån sig sina inloggningsuppgifter eller att hans konto komprometterades. 1

Därför kopplar Proofpoint gruppen till Kina

Proofpoint kopplade aktiviteten till en kinesisk grupp utifrån bland annat skadlig kod, den internetinfrastruktur som användes och vilka personer som valdes ut. Företaget bedömde att dessa tecken stämde överens med kinesiska underrättelseintressen. Det är Proofpoints bedömning av vem som låg bakom försöken – inte belägg för att varje intrångsförsök lyckades. 1

Vad måltavlorna kan säga om syftet

Att kampanjen riktades mot personer som arbetar med AI-reglering, exportkontroller och nationell strategi kan tyda på ett intresse för information om politiska beslut och planer, snarare än enbart för själva AI-systemen. Det är en slutsats utifrån de rapporterade måltavlorna och mejlens upplägg – inte ett fastslaget motiv eller bevis för vilken information angriparna eventuellt fick tag i. 7