OpenAI bane contas do ChatGPT ligadas a campanha de influência com falso instituto israelense

A OpenAI afirmou ter banido um grupo de contas do ChatGPT provavelmente originárias da Rússia após investigar uma operação secreta de influência centrada no suposto International Burke Institute (IBI), apresentado como uma comunidade de especialistas sediada em Israel. Segundo a empresa, o ChatGPT foi usado principalmente para produzir e distribuir material promocional, enquanto os operadores tentavam esconder sua origem russa. 3

O caso revela uma tática que vai além da publicação de posts virais: a operação parecia criar uma instituição com aparência convincente, associar a ela uma autoridade emprestada e espalhar suas narrativas por diferentes comunidades online.

O que a OpenAI identificou

A OpenAI disse que os operadores acessavam o ChatGPT por meio de VPNs, já que o serviço não está disponível na Rússia. Eles faziam prompts principalmente em russo e pediam ao modelo que removesse pistas linguísticas capazes de revelar sua localização. A maior parte das publicações resultantes foi escrita em inglês. 3

A campanha girava em torno de um site registrado em fevereiro de 2025, que descrevia o IBI como uma comunidade de especialistas baseada em Israel. De acordo com a OpenAI, o endereço reunia material acadêmico copiado de trabalhos legítimos, incluindo conteúdos atribuídos a autores incorretos ou que pareciam ter sido traduzidos automaticamente de um idioma eslavo. 3

O site também divulgava um “índice de soberania” que apresentava a Rússia de forma favorável e depreciava países ocidentais. As mensagens associadas criticavam a Ucrânia, a União Europeia e o governo alemão, além de defenderem relações melhores com a Rússia. 3

Como o ChatGPT foi usado nas redes

Segundo a OpenAI, as contas geravam posts e respostas para promover materiais do IBI no Telegram, no X, no LinkedIn, no Facebook e no Substack. A atividade incluía conteúdo multilíngue, resumos de canais e elementos visuais de identidade, como logotipos para canais do Telegram voltados a públicos da Alemanha, dos Estados Unidos, da França, da Polônia e da Turquia. 3

Um dos operadores gerou conteúdo em alemão para o canal do Telegram “Lahme Ente”. A OpenAI também descreveu algumas contas apresentadas como usuários comuns como provavelmente inautênticas. Em respostas no Substack com a marca do IBI, os operadores incentivavam pessoas reais a seguir o canal do instituto. 3

Assim, o uso do ChatGPT não se limitava à redação de mensagens isoladas. A ferramenta ajudava a manter um fluxo de produção replicável, envolvendo idiomas, plataformas, identidades de contas e elementos de marca.

A credibilidade emprestada do instituto

Um dos pontos centrais da campanha era a aparência de legitimidade institucional. A OpenAI afirmou que o site do IBI citava especialistas conhecidos, como Francis Fukuyama e Noam Chomsky, embora os artigos associados frequentemente viessem de outras páginas da internet ou estivessem relacionados a autores incorretos. 3

Essa combinação é relevante porque uma identidade institucional fabricada ou enganosa pode fazer propaganda parecer análise independente. O leitor pode se deparar com um site bem produzido, nomes de especialistas, textos com aparência acadêmica e uma presença consistente nas redes sem perceber quem está por trás da operação.

Alcance limitado, mas um modelo escalável

A OpenAI classificou o público alcançado pela campanha como relativamente pequeno e seu impacto imediato como limitado. A empresa avaliou a operação na faixa inferior da Categoria 3 da Breakout Scale, escala do Brookings Institution usada para medir o alcance de operações secretas de influência: havia atividade em várias plataformas e alguma evidência de engajamento autêntico, mas não uma expansão significativa nem viralização ampla. 3

A preocupação da empresa estava menos no número atual de seguidores e mais na infraestrutura criada. A operação combinava uma suposta instituição de especialistas, pesquisas copiadas, distribuição multilíngue, contas coordenadas e tentativas de esconder a origem do conteúdo. Segundo a OpenAI, essa estrutura a diferenciava de algumas operações anteriores ligadas à Rússia. 3

O risco de longo prazo é que um sistema assim possa ser reutilizado e ampliado. Mesmo um engajamento modesto pode servir de base para fabricar uma aparência de autoridade, conduzir públicos a canais coordenados e dar um verniz de independência a mensagens de propaganda.

A principal lição do caso

O episódio mostra por que operações de influência apoiadas por inteligência artificial não devem ser avaliadas apenas pelo alcance. Uma campanha pode não viralizar e, ainda assim, construir ativos reutilizáveis: sites, nomes, logotipos, conteúdo traduzido, contas em redes sociais e um acervo de material com aparência de autoridade.

A divulgação da OpenAI não indica que a operação tenha alcançado grande repercussão. Ela mostra, porém, como a IA generativa pode ajudar operadores a manter um sistema de publicação em várias plataformas, concentrando seus esforços em ocultar a origem e construir credibilidade. 3