OpenAI stänger av Rysslandskopplade ChatGPT-konton i kampanj kring falskt israeliskt institut

OpenAI uppger att företaget har stängt av en grupp ChatGPT-konton som med stor sannolikhet hade sitt ursprung i Ryssland. Kontona kopplades till en dold påverkanskampanj kring det påstått Israel-baserade International Burke Institute, IBI. Enligt OpenAI användes ChatGPT framför allt för att ta fram och sprida reklamlika texter, medan operatörerna försökte dölja sin ryska bakgrund. 3

Fallet visar på en bredare metod för informationspåverkan: i stället för att enbart försöka skapa virala inlägg byggde aktörerna upp något som liknade en legitim institution, lånade trovärdighet från kända namn och spred budskapen genom flera nätgemenskaper.

Så beskriver OpenAI kampanjen

Operatörerna använde VPN-tjänster eftersom ChatGPT inte är tillgängligt i Ryssland. De skrev huvudsakligen sina instruktioner på ryska och bad modellen att ta bort språkliga kännetecken som kunde avslöja var de befann sig. Det mesta av det färdiga materialet skrevs på engelska. 3

Kampanjen kretsade kring en webbplats som registrerades i februari 2025 och beskrev IBI som en Israel-baserad expertgemenskap. OpenAI uppger att webbplatsen innehöll akademiskt material som hade kopierats från legitim forskning, ibland med felaktiga upphovspersoner eller formuleringar som verkade maskinöversatta från ett slaviskt språk. 3

Webbplatsen lyfte också fram ett ”suveränitetsindex” som framställde Ryssland i positiv dager samtidigt som västländer kritiserades. Budskap kopplade till kampanjen riktade kritik mot Ukraina, EU och den tyska regeringen och förespråkade förbättrade relationer med Ryssland. 3

Innehåll på flera plattformar

Enligt OpenAI användes kontona för att skapa inlägg och svar som gjorde reklam för IBI-material på Telegram, X, LinkedIn, Facebook och Substack. Kampanjen omfattade flera språk, sammanfattningar av kanaler och visuellt material, bland annat logotyper för Telegram-kanaler riktade till målgrupper i Tyskland, USA, Frankrike, Polen och Turkiet. 3

En av operatörerna tog fram tyskspråkigt material för Telegramkanalen ”Lahme Ente”. OpenAI bedömde också att vissa konton som utgav sig för att tillhöra vanliga användare sannolikt var falska. IBI-profiler på Substack uppmanade dessutom riktiga användare att följa institutets kanal. 3

ChatGPT användes alltså inte bara för att skriva enstaka inlägg. Verktyget ingick i ett återanvändbart arbetsflöde för publicering på flera plattformar, på olika språk och under olika konton och varumärken.

Trovärdighet genom lånade expertidentiteter

En central del av kampanjen var försöket att skapa ett sken av institutionell legitimitet. OpenAI uppger att IBI:s webbplats hänvisade till framstående experter, däribland Francis Fukuyama och Noam Chomsky, samtidigt som de tillhörande artiklarna ofta hämtades från andra delar av internet eller kopplades till fel författare. 3

Det spelar roll eftersom en påhittad eller missvisande institutionsidentitet kan få propaganda att framstå som fristående analys. En läsare kan möta en välgjord webbplats, kända expertnamn, forskningsliknande texter och en enhetlig närvaro i sociala medier utan att se vilka aktörer som står bakom.

Begränsad räckvidd – men en modell som kan skalas

OpenAI beskriver kampanjens publik som relativt liten och den omedelbara effekten som begränsad. Företaget placerade operationen i den nedre delen av kategori tre på Brookings Breakout Scale. Det innebär aktivitet på flera plattformar och vissa tecken på äkta engagemang, men inget tydligt genombrott eller någon bred viral spridning. 3

Det som oroade OpenAI var därför främst infrastrukturen, inte antalet följare. Operationen kombinerade ett påstått expertinstitut, kopierad forskning, flerspråkig distribution, samordnade konton och försök att dölja innehållets ursprung. Enligt OpenAI skiljer detta kampanjen från vissa tidigare Rysslandskopplade operationer. 3

Den långsiktiga risken är att en sådan modell kan återanvändas och byggas ut. Även begränsat engagemang kan skapa en grund för att tillverka skenbar auktoritet, leda publik till samordnade kanaler och få propaganda att framstå som om den kommer från oberoende källor.

Lärdomen: räckvidd är inte hela bilden

Fallet visar varför AI-stödda påverkanskampanjer inte alltid kan bedömas utifrån hur många som nås. En kampanj behöver inte bli viral för att bygga upp tillgångar som kan användas igen: webbplatser, namn, logotyper, översatt material, konton i sociala medier och ett bibliotek av texter som ser auktoritativa ut.

OpenAIs redogörelse visar inte att operationen fick ett stort genomslag. Däremot illustrerar den hur generativ AI kan hjälpa aktörer att driva ett publiceringssystem på flera plattformar, så att mer av arbetet kan läggas på att dölja avsändaren och bygga trovärdighet. 3