OpenAI sperrt ChatGPT-Konten im Zusammenhang mit mutmaßlicher Russland-Kampagne

OpenAI hat nach eigenen Angaben eine Gruppe von ChatGPT-Konten gesperrt, die sehr wahrscheinlich aus Russland stammte. Die Konten standen demnach mit einer verdeckten Einflussoperation rund um das angebliche, in Israel ansässige International Burke Institute (IBI) in Verbindung. ChatGPT wurde vor allem genutzt, um Werbe- und Verbreitungsmaterial zu erstellen, während die Betreiber ihre russische Herkunft zu verschleiern versuchten. 3

Der Fall zeigt eine weiterentwickelte Methode politischer Einflussnahme: Statt lediglich einzelne Beiträge viral zu verbreiten, bauten die Betreiber offenbar eine professionell wirkende Institution auf. Deren vermeintliche Autorität sollte anschließend über mehrere Online-Communities und Plattformen in Umlauf gebracht werden.

Was OpenAI über die Kampagne berichtet

Da ChatGPT in Russland nicht verfügbar ist, griffen die Betreiber laut OpenAI über VPNs auf den Dienst zu. Sie formulierten ihre Anfragen überwiegend auf Russisch und forderten das Modell auf, sprachliche Merkmale zu entfernen, die auf ihre Herkunft hindeuten könnten. Die meisten daraus entstandenen Beiträge waren auf Englisch verfasst. 3

Im Mittelpunkt stand eine im Februar 2025 registrierte Website. Sie stellte das IBI als in Israel ansässige Expertengemeinschaft dar. Nach Angaben von OpenAI enthielt die Seite akademische Inhalte, die aus seriösen Arbeiten kopiert worden waren. Teilweise seien diese falsch zugeordnet worden oder hätten den Eindruck erweckt, aus einer slawischen Sprache maschinell übersetzt worden zu sein. 3

Die Website bewarb außerdem einen sogenannten „Souveränitätsindex“. Dieser stellte Russland positiv dar und wertete westliche Staaten ab. Die begleitenden Botschaften kritisierten die Ukraine, die Europäische Union und die deutsche Bundesregierung und warben für bessere Beziehungen zu Russland. 3

ChatGPT als Werkzeug für ein mehrsprachiges Netzwerk

OpenAI zufolge erstellten die gesperrten Konten Beiträge und Antworten, die Inhalte des IBI auf Telegram, X, LinkedIn, Facebook und Substack bewarben. Die Kampagne arbeitete mehrsprachig und umfasste auch Kanalzusammenfassungen sowie visuelle Elemente wie Logos für Telegram-Kanäle. Diese richteten sich an Zielgruppen in Deutschland, den USA, Frankreich, Polen und der Türkei. 3

Ein Betreiber ließ deutschsprachige Inhalte für den Telegram-Kanal „Lahme Ente“ erstellen. OpenAI stufte zudem einige Konten, die wie gewöhnliche Nutzerkonten auftraten, als wahrscheinlich unecht ein. Antworten mit dem IBI-Branding auf Substack forderten hingegen echte Nutzer auf, dem Kanal des Instituts zu folgen. 3

ChatGPT diente damit nicht nur zum Verfassen einzelner Kommentare. Das Modell war Teil eines wiederholbaren Ablaufs, der mehrere Sprachen, Plattformen, Nutzeridentitäten und Markenelemente miteinander verband.

Geliehene Glaubwürdigkeit durch Expertentest und Forschung

Ein zentraler Bestandteil der Kampagne war der Anschein institutioneller Seriosität. Laut OpenAI behauptete die IBI-Website, namhafte Experten wie Francis Fukuyama und Noam Chomsky einzubeziehen. Die zugehörigen Artikel stammten jedoch häufig aus anderen Quellen oder waren mit falschen Autorenangaben versehen. 3

Diese Mischung kann Propaganda wie unabhängige Analyse wirken lassen: Eine professionell gestaltete Website, bekannte Namen, Texte im Stil wissenschaftlicher Veröffentlichungen und ein einheitlicher Auftritt in sozialen Netzwerken erzeugen Vertrauen, obwohl die dahinterstehende Organisation irreführend oder erfunden sein kann.

Geringe Reichweite – aber eine skalierbare Infrastruktur

OpenAI beschrieb das unmittelbare Publikum der Kampagne als vergleichsweise klein und ihre aktuelle Wirkung als begrenzt. Nach Einschätzung des Unternehmens lag die Operation am unteren Ende der Kategorie drei auf der Brookings Breakout Scale. Diese Skala bewertet, wie stark verdeckte Einflussoperationen über mehrere Plattformen hinaus in echte Communities vordringen. Im vorliegenden Fall gab es Aktivitäten auf mehreren Plattformen und einige Hinweise auf authentische Interaktionen, jedoch keinen signifikanten Durchbruch und keine breite Viralität. 3

Die größere Sorge betrifft daher weniger die aktuelle Zahl der Follower als die zugrunde liegende Infrastruktur. Sie verband eine angebliche Experteninstitution, kopierte Forschung, mehrsprachige Verbreitung, koordinierte Konten und Maßnahmen zur Verschleierung der Herkunft. Laut OpenAI unterschied sich die Kampagne dadurch von einigen früheren Russland zugerechneten Operationen. 3

Langfristig könnte ein solches System wiederverwendet und ausgebaut werden. Auch begrenzte Interaktionen können dabei helfen, scheinbare Autorität zu erzeugen, Nutzer in koordinierte Kanäle zu lenken und Propaganda über Quellen zu verbreiten, die unabhängig wirken.

Die zentrale Lehre

Der Fall macht deutlich, warum sich der Erfolg KI-gestützter Einflussoperationen nicht allein an ihrer Reichweite messen lässt. Eine Kampagne muss nicht viral gehen, um dauerhaft nutzbare Bausteine aufzubauen: Websites, Namen, Logos, Übersetzungen, Social-Media-Konten und eine Sammlung scheinbar maßgeblicher Texte.

OpenAIs Mitteilung belegt keinen großen Durchbruch der Operation. Sie zeigt aber, wie generative KI den Aufbau eines plattformübergreifenden Veröffentlichungsapparats erleichtern kann. Die Betreiber konnten dadurch mehr Zeit in die Verschleierung ihrer Herkunft und in den Anschein von Glaubwürdigkeit investieren. 3