OpenAI sekat akaun ChatGPT dikaitkan dengan kempen pengaruh Rusia

OpenAI berkata pihaknya telah menyekat sekumpulan akaun ChatGPT yang sangat berkemungkinan berasal dari Rusia selepas siasatan mengaitkan akaun tersebut dengan operasi pengaruh sulit berpusat pada International Burke Institute (IBI), sebuah institusi yang mendakwa dirinya sebagai komuniti pakar berasaskan Israel. Menurut OpenAI, ChatGPT digunakan terutamanya untuk menghasilkan dan mengedarkan bahan promosi, manakala pengendali berusaha menyembunyikan asal-usul mereka dari Rusia. 3

Kes ini menunjukkan taktik pengaruh yang semakin tersusun. Operasi sedemikian tidak semestinya bergantung pada hantaran yang tular. Sebaliknya, ia boleh membina sebuah institusi yang kelihatan meyakinkan, meminjam nama serta imej autoriti, kemudian mengedarkan naratifnya melalui pelbagai komuniti dalam talian.

Apa yang didedahkan OpenAI

OpenAI berkata pengendali mengakses ChatGPT menggunakan VPN kerana perkhidmatan itu tidak tersedia di Rusia. Mereka kebanyakannya memberikan arahan dalam bahasa Rusia dan meminta model membuang petunjuk bahasa yang boleh mendedahkan lokasi atau latar belakang mereka. Kebanyakan hantaran yang dihasilkan pula ditulis dalam bahasa Inggeris. 3

Kempen itu berpusat pada sebuah laman web yang didaftarkan pada Februari 2025. Laman tersebut menggambarkan IBI sebagai komuniti pakar berasaskan Israel. OpenAI berkata kandungannya merangkumi bahan akademik yang disalin daripada karya sah, termasuk bahan yang disalah atribusi atau kelihatan seperti diterjemah secara mesin daripada bahasa Slavic. 3

Laman itu turut mempromosikan sebuah “indeks kedaulatan” yang menggambarkan Rusia secara positif sambil merendahkan negara-negara Barat. Mesej berkaitan mengkritik Ukraine, Kesatuan Eropah dan kerajaan Jerman, selain menggesa hubungan yang lebih baik dengan Rusia. 3

Bagaimana ChatGPT digunakan di pelbagai platform

Menurut OpenAI, akaun-akaun berkenaan menghasilkan hantaran dan balasan untuk mempromosikan bahan IBI di Telegram, X, LinkedIn, Facebook dan Substack. Aktiviti itu merangkumi kandungan pelbagai bahasa, ringkasan saluran serta elemen penjenamaan visual seperti logo untuk saluran Telegram yang menyasarkan khalayak di Jerman, Amerika Syarikat, Perancis, Poland dan Türkiye. 3

Salah seorang pengendali menghasilkan kandungan berbahasa Jerman untuk saluran Telegram “Lahme Ente”. OpenAI juga berkata sesetengah akaun yang kelihatan seperti akaun pengguna biasa berkemungkinan tidak tulen. Dalam masa yang sama, balasan berjenama IBI di Substack menggalakkan pengguna sebenar mengikuti saluran institut tersebut. 3

Ini bermakna penggunaan ChatGPT bukan sekadar untuk menulis beberapa mesej secara berasingan. Ia membantu membentuk aliran kerja kandungan yang boleh diulang—meliputi terjemahan, penerbitan di pelbagai platform, identiti akaun dan penjenamaan.

Membina kredibiliti melalui imej institusi

Salah satu ciri utama kempen itu ialah usaha mewujudkan kesan legitimasi. OpenAI berkata laman IBI mendakwa mempunyai tokoh terkenal seperti Francis Fukuyama dan Noam Chomsky, sedangkan artikel yang dikaitkan dengannya sering diambil dari tempat lain di internet atau dipautkan kepada penulis yang tidak tepat. 3

Gabungan ini penting kerana identiti institusi yang direka atau mengelirukan boleh membuat propaganda kelihatan seperti analisis bebas. Pembaca mungkin melihat laman web yang kemas, nama tokoh akademik, artikel bergaya penyelidikan dan penjenamaan media sosial yang konsisten—tanpa menyedari pihak yang menguruskan keseluruhan operasi tersebut.

Jangkauan kecil, tetapi model yang mudah diperbesar

OpenAI menyifatkan jumlah khalayak kempen itu sebagai agak kecil dan kesan serta-mertanya sebagai terhad. Syarikat itu menilai operasi berkenaan pada bahagian bawah Kategori Tiga dalam Skala Breakout Brookings, iaitu ukuran enam tahap yang menilai sejauh mana operasi pengaruh sulit menembusi komuniti sebenar. Aktiviti kelihatan di beberapa platform dan terdapat sedikit bukti interaksi tulen, tetapi kempen itu tidak mencetuskan penularan besar-besaran. 3

Kebimbangan utama OpenAI bukan sekadar jumlah pengikut semasa, tetapi infrastruktur yang dibina. Operasi itu menggabungkan institusi pakar yang didakwa, bahan penyelidikan yang disalin, pengedaran pelbagai bahasa, akaun media sosial yang diselaraskan dan usaha menyamarkan sumber sebenar. Menurut OpenAI, struktur ini membezakannya daripada beberapa operasi berkaitan Rusia yang pernah disekat sebelum ini. 3

Risiko jangka panjangnya ialah sistem seperti ini boleh digunakan semula dan diperbesar. Walaupun kadar interaksi awal rendah, aset seperti laman web, nama institusi, logo, kandungan terjemahan, akaun media sosial dan arkib bahan yang kelihatan berautoriti boleh menjadi asas untuk mencipta kredibiliti palsu serta menyalurkan propaganda melalui sumber yang nampak bebas.

Pengajaran yang lebih besar

Kes ini menunjukkan mengapa operasi pengaruh berasaskan AI tidak wajar dinilai berdasarkan tahap tular semata-mata. Sesebuah kempen mungkin gagal menjadi viral, namun masih berjaya membina aset yang boleh digunakan berulang kali—termasuk laman web, identiti, logo, kandungan pelbagai bahasa, akaun sosial dan koleksi bahan yang kelihatan berwibawa.

Pendedahan OpenAI tidak menunjukkan bahawa operasi itu mencapai penularan besar. Namun, ia memperlihatkan bagaimana AI generatif boleh membantu pengendali mengekalkan sistem penerbitan merentas platform, sementara tumpuan utama mereka dialihkan kepada usaha menyembunyikan asal-usul dan membina kredibiliti. 3