OpenAI lukker ChatGPT-konti knyttet til russisk påvirkningskampagne

OpenAI har lukket en klynge ChatGPT-konti, som med meget stor sandsynlighed stammede fra Rusland, efter en undersøgelse af en skjult påvirkningskampagne omkring det påståede israelske International Burke Institute, IBI. Ifølge selskabet blev ChatGPT især brugt til at producere og distribuere reklamemateriale, mens operatørerne forsøgte at skjule deres russiske oprindelse. 3

Sagen peger på en bredere påvirkningsmetode: I stedet for kun at forsøge at skabe virale opslag så operationen ud til at opbygge en institution med et troværdigt udtryk, låne autoritet fra kendte navne og sprede sine budskaber gennem flere digitale fællesskaber.

Sådan blev ChatGPT brugt

OpenAI oplyser, at operatørerne tilgik ChatGPT via VPN-forbindelser, fordi tjenesten ikke er tilgængelig i Rusland. De skrev hovedsageligt prompts på russisk og bad modellen om at fjerne sproglige kendetegn, der kunne afsløre deres baggrund. Størstedelen af de færdige opslag var skrevet på engelsk. 3

Kampagnen var centreret omkring en hjemmeside, der blev registreret i februar 2025, og som beskrev IBI som et ekspertmiljø med base i Israel. OpenAI fandt ifølge sin undersøgelse akademisk materiale, der var kopieret fra legitimt arbejde, fejlkrediteret eller tilsyneladende maskinoversat fra et slavisk sprog. 3

Hjemmesiden promoverede også et såkaldt ”suverænitetsindeks”, der fremstillede Rusland positivt og nedgjorde vestlige lande. De tilknyttede budskaber kritiserede Ukraine, EU og den tyske regering og argumenterede for bedre forbindelser til Rusland. 3

ChatGPT blev ifølge OpenAI brugt til at skrive opslag og svar, der promoverede IBI-materiale på Telegram, X, LinkedIn, Facebook og Substack. Aktiviteten omfattede indhold på flere sprog, opsummeringer af kanaler og visuel branding som logoer til Telegram-kanaler rettet mod målgrupper i Tyskland, USA, Frankrig, Polen og Tyrkiet. 3

En af operatørerne fremstillede tysksproget materiale til Telegram-kanalen ”Lahme Ente”. OpenAI beskrev desuden nogle konti, der udgav sig for at være almindelige brugere, som sandsynligvis uægte. Svar på Substack med IBI-branding opfordrede samtidig rigtige brugere til at følge instituttets kanal. 3

Det rapporterede brug af ChatGPT var derfor ikke begrænset til enkelte tekster. Modellen indgik i en gentagelig arbejdsgang på tværs af sprog, platforme, konti og grafisk identitet.

Troværdighed lånt fra akademiske navne

Et centralt element var forsøget på at skabe et indtryk af institutionel legitimitet. Ifølge OpenAI hævdede IBI’s hjemmeside at være forbundet med fremtrædende eksperter som Francis Fukuyama og Noam Chomsky, mens de tilknyttede artikler ofte stammede fra andre steder på nettet eller var forbundet med forkerte forfattere. 3

Det er vigtigt, fordi en fabrikeret eller misvisende institutionsidentitet kan få propaganda til at ligne uafhængig analyse. En læser kan møde en professionelt udformet hjemmeside, kendte ekspertnavne, artikler i forskningsstil og en ensartet tilstedeværelse på sociale medier uden at kunne se, hvem der står bag.

Begrænset rækkevidde – men en model, der kan skaleres

OpenAI beskrev kampagnens målgruppe som relativt lille og den umiddelbare effekt som begrænset. Selskabet placerede operationen i den lave ende af kategori tre på Brookings’ såkaldte Breakout Scale, en skala fra 1 til 6, der måler, hvor langt skjulte påvirkningsoperationer breder sig. Aktiviteten fandt sted på flere platforme og viste enkelte tegn på ægte engagement, men slog ikke igennem bredt eller viralt. 3

OpenAI’s bekymring handler derfor ikke kun om antallet af følgere. Operationen kombinerede et påstået ekspertinstitut, kopieret forskning, flersproget distribution, koordinerede sociale konti og forsøg på at skjule indholdets oprindelse. Ifølge OpenAI adskilte denne struktur sig fra nogle tidligere russisk-forbundne operationer. 3

Den langsigtede risiko er, at en sådan infrastruktur kan genbruges og skaleres. Selv begrænset engagement kan danne grundlag for at fremstille en tilsyneladende autoritet, lede målgrupper videre til koordinerede kanaler og få propaganda til at fremstå som uafhængige kilder.

Den bredere lære

Sagen viser, hvorfor rækkevidde alene ikke er nok til at vurdere AI-understøttede påvirkningsoperationer. En kampagne behøver ikke at gå viralt for at opbygge aktiver, der senere kan genbruges: hjemmesider, navne, logoer, oversat indhold, sociale konti og et arkiv af materiale, der ser autoritativt ud.

OpenAI’s redegørelse viser ikke, at operationen opnåede et stort gennembrud. Den viser derimod, hvordan generativ AI kan hjælpe operatører med at drive et publiceringssystem på tværs af platforme, mens kræfterne i højere grad kan bruges på at skjule afsenderen og opbygge troværdighed. 3