OpenAI stengte ChatGPT-kontoer knyttet til påvirkningskampanje fra Russland

OpenAI sier selskapet har stengt en gruppe ChatGPT-kontoer som med stor sannsynlighet stammet fra Russland. Kontoene ble koblet til en skjult påvirkningsoperasjon bygget rundt det angivelige, Israel-baserte International Burke Institute (IBI). Ifølge OpenAI ble ChatGPT først og fremst brukt til å produsere og spre reklamemateriell, samtidig som operatørene forsøkte å skjule sin russiske opprinnelse. 3

Saken viser en påvirkningsmetode som handler om mer enn enkeltstående virale innlegg. Operasjonen skal ha forsøkt å bygge en institusjon som så troverdig ut, gi budskapene lånt autoritet og spre dem gjennom flere nettmiljøer.

Slik skal operasjonen ha fungert

OpenAI sier operatørene brukte VPN-er fordi ChatGPT ikke er tilgjengelig i Russland. De skrev hovedsakelig instrukser på russisk og ba modellen fjerne språklige kjennetegn som kunne avsløre hvor de befant seg. Det meste av innholdet som ble laget, var på engelsk. 3

Kampanjen dreide seg om et nettsted som ble registrert i februar 2025. Der ble IBI presentert som et ekspertmiljø basert i Israel. OpenAI fant ifølge egen gjennomgang akademisk materiale som var kopiert fra legitim forskning, feilaktig tilskrevet andre eller tilsynelatende maskinoversatt fra et slavisk språk. 3

Nettstedet fremmet også en «suverenitetsindeks» som stilte Russland i et fordelaktig lys, samtidig som vestlige land ble omtalt negativt. Budskap knyttet til kampanjen kritiserte Ukraina, EU og den tyske regjeringen, og argumenterte for bedre forbindelser med Russland. 3

ChatGPT som innholdsproduksjon på tvers av plattformer

Ifølge OpenAI ble kontoene brukt til å lage innlegg og svar som promoterte IBI-materiale på Telegram, X, LinkedIn, Facebook og Substack. Operatørene produserte innhold på flere språk, oppsummeringer av kanaler og visuell profilering – blant annet logoer for Telegram-kanaler rettet mot publikum i Tyskland, USA, Frankrike, Polen og Türkiye. 3

Én av operatørene laget tyskspråklig innhold for Telegram-kanalen «Lahme Ente». OpenAI beskrev også enkelte kontoer som utga seg for å være vanlige brukere, som trolig uekte. Svar med IBI-profilering på Substack oppfordret samtidig ekte brukere til å følge instituttets kanal. 3

Bruken av ChatGPT var dermed ikke begrenset til å skrive noen få meldinger. Modellen inngikk i en gjentakbar arbeidsflyt for innholdsproduksjon på tvers av språk, plattformer, kontoidentiteter og merkevarebygging.

Lånt troverdighet

Et sentralt element var inntrykket av at IBI var en legitim faglig institusjon. OpenAI sier nettstedet trakk frem kjente eksperter, blant andre Francis Fukuyama og Noam Chomsky, mens flere av artiklene var hentet fra andre steder på nettet eller knyttet til feil forfattere. 3

Det er nettopp denne kombinasjonen som kan gjøre propaganda vanskeligere å oppdage. Et profesjonelt nettsted, kjente navn, forskningslignende artikler og en konsekvent profil i sosiale medier kan få innholdet til å fremstå som uavhengig analyse – selv når avsenderen forsøker å skjule seg.

Begrenset rekkevidde, men en modell som kan skaleres

OpenAI beskriver målgruppen som relativt liten og den umiddelbare effekten som begrenset. Selskapet plasserte operasjonen i den nedre delen av kategori tre på Brookings’ «Breakout Scale». Skalaen brukes til å vurdere gjennomslaget til skjulte påvirkningsoperasjoner. Aktiviteten foregikk på flere plattformer og hadde enkelte tegn til ekte engasjement, men slo ikke bredt gjennom eller ble viralt spredt. 3

Bekymringen handler derfor mindre om hvor mange følgere kampanjen hadde akkurat da, og mer om infrastrukturen som ble bygget. Operasjonen kombinerte en angivelig ekspertinstitusjon, kopiert forskning, innhold på flere språk, koordinerte kontoer og forsøk på å skjule opphavet. OpenAI sier dette skilte kampanjen fra enkelte tidligere Russland-knyttede operasjoner. 3

På lengre sikt kan et slikt system gjenbrukes og skaleres. Selv begrenset aktivitet kan legge grunnlaget for å fremstille en avsender som autoritativ, lede publikum til koordinerte kanaler og få propaganda til å se ut som informasjon fra uavhengige kilder.

Lærdommen

Saken illustrerer hvorfor rekkevidde alene ikke er nok når påvirkningskampanjer skal vurderes. En kampanje trenger ikke å gå viralt for å bygge opp ressurser som kan brukes igjen: nettsteder, navn, logoer, oversatt innhold, kontoer i sosiale medier og et arkiv av tilsynelatende autoritative tekster.

OpenAIs redegjørelse viser ikke at operasjonen fikk et stort gjennombrudd. Den viser derimot hvordan generativ kunstig intelligens kan hjelpe operatører med å drive et publiseringssystem på tvers av plattformer, mens innsatsen rettes mot å skjule opprinnelsen og bygge troverdighet. 3