OpenAI Blokir Akun ChatGPT yang Dikaitkan dengan Kampanye Institut Israel Palsu

OpenAI mengatakan telah memblokir sekelompok akun ChatGPT yang sangat mungkin berasal dari Rusia setelah menyelidiki operasi pengaruh terselubung yang berpusat pada International Burke Institute (IBI), sebuah lembaga yang mengaku sebagai komunitas pakar berbasis di Israel. Menurut OpenAI, ChatGPT terutama digunakan untuk membuat dan menyebarkan materi promosi, sementara operator berusaha menyamarkan asal Rusia mereka. 3

Pengungkapan ini menunjukkan pola operasi pengaruh yang lebih terstruktur. Alih-alih hanya mengandalkan unggahan viral, operator tampaknya membangun lembaga yang terlihat meyakinkan, meminjam otoritas akademik, lalu menyebarkan narasinya melalui berbagai komunitas daring.

Apa yang diungkapkan OpenAI

OpenAI mengatakan operator mengakses ChatGPT melalui VPN karena layanan tersebut tidak tersedia di Rusia. Mereka terutama memberikan perintah dalam bahasa Rusia dan meminta model menghapus petunjuk kebahasaan yang dapat mengungkap lokasi atau asal mereka. Sebagian besar unggahan yang dihasilkan ditulis dalam bahasa Inggris. 3

Kampanye ini berpusat pada sebuah situs web yang didaftarkan pada Februari 2025. Situs tersebut menggambarkan IBI sebagai komunitas pakar berbasis Israel. OpenAI mengatakan situs itu memuat materi akademik yang disalin dari karya sah, termasuk materi yang salah atribusi atau tampaknya diterjemahkan mesin dari bahasa Slavia. 3

Situs tersebut juga mempromosikan “indeks kedaulatan” yang menggambarkan Rusia secara menguntungkan sekaligus merendahkan negara-negara Barat. Pesan-pesan terkait mengkritik Ukraina, Uni Eropa, dan pemerintah Jerman, serta mendorong hubungan yang lebih baik dengan Rusia. 3

Cara ChatGPT digunakan di berbagai platform

Menurut OpenAI, akun-akun tersebut menghasilkan unggahan dan balasan untuk mempromosikan materi IBI di Telegram, X, LinkedIn, Facebook, dan Substack. Aktivitas itu mencakup konten multibahasa, ringkasan kanal, serta elemen visual seperti logo untuk kanal Telegram yang menyasar audiens di Jerman, Amerika Serikat, Prancis, Polandia, dan Türkiye. 3

Salah satu operator membuat materi berbahasa Jerman untuk kanal Telegram “Lahme Ente”. OpenAI juga menyebut beberapa akun yang tampil sebagai pengguna biasa kemungkinan tidak autentik. Sementara itu, balasan bermerek IBI di Substack mendorong pengguna sungguhan untuk mengikuti kanal milik institut tersebut. 3

Dengan demikian, penggunaan ChatGPT dalam operasi ini bukan sekadar menyusun pesan satu per satu. Model tersebut membantu membentuk alur produksi konten yang dapat diulang, mencakup berbagai bahasa, platform, identitas akun, dan elemen merek.

Membangun kredibilitas dari nama dan riset pinjaman

Salah satu ciri utama kampanye ini adalah upaya menciptakan kesan bahwa IBI merupakan lembaga yang sah dan kredibel. OpenAI mengatakan situs IBI mencantumkan pakar terkenal, termasuk Francis Fukuyama dan Noam Chomsky, sementara artikel-artikel terkait sering kali berasal dari sumber lain di internet atau dikaitkan dengan penulis yang keliru. 3

Strategi semacam ini penting karena identitas lembaga yang dibuat-buat atau menyesatkan dapat membuat propaganda tampak seperti analisis independen. Pembaca mungkin melihat situs yang rapi, nama-nama pakar, artikel bergaya penelitian, dan tampilan media sosial yang konsisten—tanpa mengetahui siapa yang sebenarnya berada di baliknya.

Jangkauan terbatas, tetapi modelnya mudah diperluas

OpenAI menggambarkan audiens kampanye tersebut sebagai relatif kecil dan dampak langsungnya terbatas. Perusahaan itu menilai operasi ini berada di ujung bawah Kategori Tiga dalam Brookings Breakout Scale, yaitu aktivitas yang muncul di berbagai platform dengan sejumlah bukti keterlibatan autentik, tetapi belum mencapai penyebaran luas atau viralitas yang berarti. 3

Perhatian OpenAI bukan semata-mata tertuju pada jumlah pengikut saat ini, melainkan pada infrastruktur yang dibangun. Operasi tersebut menggabungkan lembaga pakar yang diduga palsu, riset yang disalin, distribusi multibahasa, akun media sosial terkoordinasi, dan upaya menyembunyikan asal-usulnya. Menurut OpenAI, struktur ini membedakannya dari sejumlah operasi terkait Rusia yang sebelumnya telah dibubarkan. 3

Risiko jangka panjangnya terletak pada kemungkinan penggunaan ulang dan perluasan sistem tersebut. Keterlibatan yang awalnya kecil tetap dapat menjadi fondasi untuk menciptakan otoritas semu, mengarahkan audiens ke kanal yang terkoordinasi, dan “mencuci” propaganda melalui sumber yang tampak independen.

Pelajaran yang lebih luas

Kasus ini menunjukkan mengapa operasi pengaruh berbasis AI tidak cukup dinilai dari seberapa luas jangkauannya. Sebuah kampanye mungkin tidak menjadi viral, tetapi tetap dapat membangun aset yang bisa digunakan kembali: situs web, nama lembaga, logo, konten terjemahan, akun media sosial, dan kumpulan materi yang tampak berwibawa.

Pengungkapan OpenAI tidak menunjukkan bahwa operasi ini berhasil mencapai penyebaran besar. Namun, kasus tersebut memperlihatkan bagaimana AI generatif dapat membantu operator mempertahankan sistem penerbitan lintas platform, sementara sebagian besar upaya mereka diarahkan untuk menyembunyikan asal-usul dan membangun kredibilitas. 3