Falsk ChatGPT-modell blev första steget i en malwareattack

En skadlig anpassad GPT med namnet ”Plus 5.6” använde ChatGPTs riktiga webbplats som första steg i ett försök att lura användare. Vissa hittade GPT:n via sponsrade Google-resultat. Därifrån skickades de vidare till en påstådd reservsida på Google Sites, där en falsk Cloudflare-kontroll uppmanade dem att köra ett PowerShell-kommando. Det var kommandot – inte ChatGPT i sig – som satte infektionen i gång. 1213

Så fungerade bluffen

Angriparna presenterade ”Plus 5.6” som om det vore ett officiellt ChatGPT-erbjudande. När användare interagerade med den anpassade GPT:n fick de en länk till en påstådd reservsida. Där skulle en CAPTCHA-liknande kontroll få dem att kopiera och köra ett kommando på sin egen dator. Den sortens social manipulation kallas ClickFix. 1211

Flera delar av upplägget kunde verka bekanta och trovärdiga: en sponsrad sökträff, en GPT på ChatGPTs riktiga webbplats och en sida på Google Sites. Men inget av detta gjorde kommandot säkert att köra. 12

Från PowerShell till fjärråtkomsttrojan

PowerShell-kommandot startade ett fördunklat skript som hämtade och körde en skadlig MSI-installatör. Därefter användes DLL-sidoladdning: en skadlig DLL laddades via ett legitimt, digitalt signerat Canon-program. På så sätt kunde angriparna använda ett betrott program i nästa steg av infektionen. 58

Huntress beskriver också hur skadlig kod försökte ligga kvar på datorn genom en Windows-registerpost av typen Run, med namnet ”Canon Configuration Reader”. Mekanismen kontrollerade om posten fanns och lade tillbaka den om den saknades, vilket kunde hjälpa skadlig kod att starta igen efter avbrott eller omstart. 5

Den slutliga nyttolasten var en fjärråtkomsttrojan (RAT). Enligt rapporteringen kunde den bland annat ge angriparna fjärråtkomst till skrivbordet, visa skärmen, spela in ljud och använda kamera, söka efter filer, kartlägga datorn och köra ytterligare skadlig kod. 8

En teknisk sammanfattning uppger att trojanen kommunicerade med angriparnas kommando- och kontrollinfrastruktur via DNS över HTTPS. Rapporten nämner Cloudflare, Google och Quad9 som DNS-resolverare. 14

Vad incidentantalet visar – och inte visar

Huntress uppgav att deras säkerhetscenter hade hanterat minst 40 incidenter kopplade till den specifika Google Sites-domänen. Det betyder inte att alla 40 kunde spåras till den anpassade GPT:n: Huntress bekräftade att två incidenter hade gått via en sådan GPT. 113

Efter att den första skadliga GPT:n togs bort dök en annan upp med koppling till kampanjen. Det visar varför en nedstängning av en enskild lockelse inte nödvändigtvis stoppar ett angrepp: angriparna kan skapa en ersättare och fortsätta leda människor till liknande skadliga sidor. 49

Så minskar du risken

• Kör aldrig kommandon för att klara en CAPTCHA. Om en webbplats ber dig klistra in text i PowerShell, Terminal eller ett annat kommandofönster är det en tydlig varningssignal.
• Kontrollera vart länken leder – inte bara sökträffen. En sponsrad annons eller en sida på en välkänd tjänst bevisar inte att instruktionerna är legitima.
• För organisationer: utbilda personal om ClickFix-bluffar och begränsa skriptkörning där den inte behövs. Håll utkik efter oväntad PowerShell-aktivitet följd av MSI-installation eller misstänkt DLL-laddning. 15
• Om någon redan har kört kommandot: utgå från att datorn kan vara komprometterad. Kontakta organisationens IT- eller säkerhetsteam snabbt så att enheten kan undersökas och eventuell risk för konton eller andra system bedömas.

Kärnan i upplägget var att angriparna använde gränssnitt som såg betrodda ut för att vinna användarnas förtroende – men de behövde användaren för att själv köra kommandot. En riktig plattform kan användas för att sprida en vilseledande länk. En CAPTCHA ska aldrig kräva att du kör ett skript på din dator.