OpenAI sulki Venäjään kytkeytyneet ChatGPT-tilit

OpenAI kertoi sulkeneensa ChatGPT-tiliryppään, jonka se arvioi erittäin todennäköisesti olevan peräisin Venäjältä. Tilien tutkinta johti yrityksen mukaan peitevaikuttamisoperaation jäljille. Operaation keskiössä oli Israelissa toimivaksi kuvattu International Burke Institute eli IBI, jonka mainostamiseen ja viestien levittämiseen ChatGPT:tä käytettiin. 3

Tapauksessa huomionarvoista ei ole vain yksittäisten viestien tuottaminen tekoälyllä. Operaattorit näyttävät rakentaneen kokonaisen uskottavuutta jäljittelevän instituution, liittäneen siihen lainattua asiantuntijavaltaa ja levittäneen sen sisältöjä useiden verkkoyhteisöjen kautta.

Mitä OpenAI kertoi operaatiosta?

OpenAI:n mukaan operaattorit käyttivät VPN-yhteyksiä, koska ChatGPT ei ole saatavilla Venäjällä. He kirjoittivat kehotteita pääasiassa venäjäksi ja pyysivät mallia poistamaan tekstistä kielellisiä vihjeitä, jotka voisivat paljastaa heidän taustansa. Suurin osa syntyneistä sosiaalisen median julkaisuista oli englanniksi. 3

Kampanja keskittyi verkkosivustoon, joka rekisteröitiin helmikuussa 2025. Sivusto esitteli IBI:n Israelissa toimivana asiantuntijayhteisönä. OpenAI:n mukaan sivustolla oli laillisista akateemisista töistä kopioitua materiaalia, joka oli joissakin tapauksissa liitetty väärään kirjoittajaan tai vaikutti slaavilaisesta kielestä konekäännetyltä. 3

Sivusto markkinoi myös niin sanottua suvereniteetti-indeksiä. Se esitti Venäjän myönteisessä valossa ja vähätteli länsimaita. IBI:hin liittyvissä viesteissä arvosteltiin Ukrainaa, Euroopan unionia ja Saksan hallitusta sekä kannatettiin parempia suhteita Venäjään. 3

ChatGPT:tä käytettiin monialustaiseen sisällöntuotantoon

OpenAI:n mukaan tilit tuottivat IBI:n materiaalia mainostavia julkaisuja ja vastauksia Telegramiin, X:ään, LinkedIniin, Facebookiin ja Substackiin. Toimintaan kuului monikielistä sisältöä, kanavien esittelytekstejä ja visuaalista brändäystä, kuten logoja Saksaan, Yhdysvaltoihin, Ranskaan, Puolaan ja Turkkiin kohdennetuille Telegram-kanaville. 3

Yksi operaattoreista tuotti saksankielistä materiaalia Telegram-kanavalle nimeltä ”Lahme Ente”. OpenAI kuvasi myös osan tavallisilta käyttäjiltä vaikuttaneista tileistä todennäköisesti epäaidoiksi. IBI-brändätyissä Substack-vastauksissa puolestaan kannustettiin oikeita käyttäjiä seuraamaan instituutin kanavaa. 3

ChatGPT:n rooli ei siis rajoittunut yksittäisten viestien luonnosteluun. Se tuki toistettavaa sisältöprosessia, joka ulottui kielistä ja alustoista käyttäjäidentiteetteihin ja visuaaliseen ilmeeseen.

Uskottavuutta lainattiin asiantuntijamaailmasta

Operaation keskeinen piirre oli institutionaalisen legitimiteetin vaikutelman rakentaminen. OpenAI:n mukaan IBI:n verkkosivusto väitti sen yhteydessä toimivan tunnettuja asiantuntijoita, kuten Francis Fukuyama ja Noam Chomsky. Sivuston artikkeleita oli kuitenkin usein kopioitu muualta verkosta tai yhdistetty virheellisesti vääriin kirjoittajiin. 3

Tällainen yhdistelmä voi tehdä propagandasta riippumattomalta analyysiltä vaikuttavaa sisältöä. Lukija saattaa nähdä viimeistellyn verkkosivuston, tuttujen asiantuntijoiden nimiä, tutkimusmaista materiaalia ja yhdenmukaisen sosiaalisen median ilmeen – ilman, että taustalla toimiva verkosto paljastuu.

Vaikutus jäi rajalliseksi, mutta malli on skaalautuva

OpenAI luonnehti kampanjan yleisöä suhteellisen pieneksi ja sen välitöntä vaikutusta rajalliseksi. Yritys sijoitti operaation Brookingsin Breakout Scale -asteikolla kategorian kolme alapäähän. Asteikko arvioi peitevaikuttamisen leviämistä; tässä tapauksessa sisältöä esiintyi useilla alustoilla ja aidosta sitoutumisesta oli jonkin verran näyttöä, mutta toiminta ei levinnyt laajasti tai muuttunut viraaliksi. 3

OpenAI:n huoli liittyi ennen kaikkea rakennettuun infrastruktuuriin, ei kampanjan senhetkiseen seuraajamäärään. Operaation osia olivat väitetty asiantuntijainstituutti, kopioitu tutkimusmateriaali, monikielinen jakelu, koordinoidut sosiaalisen median tilit ja yritykset peittää alkuperä. OpenAI:n mukaan tämä erotti tapauksen joistakin aiemmin havaituista Venäjään liittyneistä operaatioista. 3

Pidemmän aikavälin riski on järjestelmän uudelleenkäytettävyys. Pienikin näkyvyys voi tarjota perustan näennäisen asiantuntijavallan rakentamiselle, yleisöjen ohjaamiselle koordinoituihin kanaviin ja propagandan ujuttamiselle lähteisiin, jotka näyttävät ulkopuolisilta.

Tekoälyoperaatioita ei voi arvioida vain näkyvyyden perusteella

Tapaus osoittaa, miksi tekoälyavusteisten vaikuttamisoperaatioiden arviointi pelkän tavoittavuuden perusteella voi johtaa harhaan. Kampanja ei välttämättä leviä viraaliksi, mutta se voi samalla rakentaa uudelleenkäytettäviä resursseja: verkkosivustoja, nimiä, logoja, käännettyä sisältöä, sosiaalisen median tilejä ja näennäisen auktoritatiivista materiaalipankkia.

OpenAI:n ilmoitus ei osoita, että kampanja olisi saavuttanut laajan läpimurron. Se kuitenkin havainnollistaa, miten generatiivinen tekoäly voi auttaa ylläpitämään monialustaista julkaisujärjestelmää samalla, kun operaattorit keskittyvät alkuperän peittämiseen ja uskottavuuden rakentamiseen. 3