OpenAI blokkeert aan Rusland gelinkte ChatGPT-accounts na campagne rond nep-instituut

OpenAI zegt een cluster ChatGPT-accounts te hebben geblokkeerd dat zeer waarschijnlijk vanuit Rusland opereerde. De accounts waren volgens het bedrijf betrokken bij een heimelijke beïnvloedingscampagne rond het vermeende, in Israël gevestigde International Burke Institute (IBI). ChatGPT werd vooral gebruikt om promotiemateriaal te maken en te verspreiden, terwijl de operators hun Russische herkomst probeerden te verhullen. 3

De zaak laat een bredere beïnvloedingstechniek zien. In plaats van alleen losse berichten viraal te laten gaan, bouwden de operators een instituut dat betrouwbaar moest ogen. Daar werd geleende autoriteit aan gekoppeld, waarna de bijbehorende boodschappen via verschillende onlinegemeenschappen werden verspreid.

Wat OpenAI over de campagne meldt

De operators zouden via VPN’s toegang hebben gezocht tot ChatGPT, omdat de dienst niet beschikbaar is in Rusland. Ze gaven voornamelijk opdrachten in het Russisch en vroegen het model om taalkundige kenmerken te verwijderen die hun locatie of achtergrond konden verraden. De meeste uiteindelijke berichten waren in het Engels. 3

De campagne draaide om een website die in februari 2025 werd geregistreerd en IBI presenteerde als een in Israël gevestigde gemeenschap van deskundigen. Volgens OpenAI bevatte de site academisch materiaal dat was gekopieerd uit legitieme publicaties. Sommige teksten waren verkeerd toegeschreven of leken automatisch uit een Slavische taal te zijn vertaald. 3

De website promootte ook een ‘soevereiniteitsindex’ die Rusland positief neerzette en westerse landen kleinerend afschilderde. Aanverwante boodschappen waren kritisch over Oekraïne, de Europese Unie en de Duitse regering en pleitten voor betere betrekkingen met Rusland. 3

ChatGPT als motor voor verspreiding

Volgens OpenAI maakten de accounts berichten en reacties om IBI-materiaal te promoten op Telegram, X, LinkedIn, Facebook en Substack. De campagne werkte meertalig en omvatte onder meer kanaalsamenvattingen en visuele branding, zoals logo’s voor Telegram-kanalen die zich richtten op doelgroepen in Duitsland, de Verenigde Staten, Frankrijk, Polen en Türkiye. 3

Een van de operators produceerde Duitstalige content voor het Telegram-kanaal ‘Lahme Ente’. OpenAI omschreef sommige accounts die zich voordeden als gewone gebruikers als waarschijnlijk niet-authentiek. Ook zouden reacties met IBI-branding op Substack echte gebruikers hebben aangemoedigd om het kanaal van het instituut te volgen. 3

ChatGPT werd daarmee niet alleen gebruikt voor het schrijven van enkele losse posts. Het model ondersteunde een herhaalbaar productieproces voor meerdere talen, platforms, accountidentiteiten en merken.

Geleende geloofwaardigheid

Een belangrijk onderdeel van de campagne was de schijn van institutionele legitimiteit. OpenAI zegt dat de IBI-website bekende experts noemde, onder wie Francis Fukuyama en Noam Chomsky, terwijl artikelen op de site vaak elders vandaan kwamen of aan de verkeerde auteurs waren gekoppeld. 3

Dat maakt de aanpak potentieel effectiever. Een gefabriceerde of misleidende institutionele identiteit kan propaganda laten doorgaan voor onafhankelijke analyse. Bezoekers zien dan een verzorgd webadres, bekende namen, artikelen in onderzoekstijl en een consequente aanwezigheid op sociale media, zonder direct te zien wie er achter de operatie zit.

Beperkt bereik, maar een schaalbaar model

OpenAI omschreef het publiek van de campagne als relatief klein en de directe impact als beperkt. Het bedrijf plaatste de operatie aan de onderkant van categorie drie op de Brookings Breakout Scale. Er was activiteit op meerdere platforms en enige aanwijzing voor authentieke betrokkenheid, maar geen duidelijke doorbraak naar brede viraliteit. 3

De grootste zorg ligt volgens OpenAI daarom niet bij het huidige aantal volgers, maar bij de onderliggende infrastructuur. Die combineerde een vermeende expertorganisatie, gekopieerd onderzoek, meertalige verspreiding, gecoördineerde sociale accounts en pogingen om de herkomst van de content te verbergen. Volgens OpenAI onderscheidde die structuur de campagne van sommige eerdere, aan Rusland gelinkte operaties. 3

Op langere termijn kan zo’n systeem opnieuw worden gebruikt en opgeschaald. Zelfs beperkte betrokkenheid kan een basis vormen om schijnbare autoriteit te creëren, publiek naar gecoördineerde kanalen te sturen en propaganda via ogenschijnlijk onafhankelijke bronnen te laten circuleren.

De bredere les

De zaak maakt duidelijk waarom het bereik van een beïnvloedingscampagne niet de enige maatstaf is. Een operatie hoeft niet viraal te gaan om bruikbare middelen op te bouwen: websites, namen, logo’s, vertaalde teksten, sociale accounts en een bibliotheek met ogenschijnlijk gezaghebbend materiaal kunnen later opnieuw worden ingezet.

De bekendmaking van OpenAI bewijst niet dat deze campagne een grote doorbraak heeft bereikt. Ze laat wel zien hoe generatieve AI operators kan helpen om een publicatiesysteem voor meerdere platforms te onderhouden, zodat zij hun energie kunnen richten op het verbergen van de herkomst en het opbouwen van geloofwaardigheid. 3