Chen Yixin: Penyalahgunaan AI Dapat Mengancam Keamanan Politik China

Chen Yixin memperingatkan bahwa kemajuan AI yang sangat cepat—terutama jika disalahgunakan oleh pihak luar yang dianggap bermusuhan—dapat secara langsung mengancam keamanan politik, keamanan institusional, dan keamanan ideologis China. Dalam kerangka Beijing, AI bukan semata teknologi produktivitas, melainkan persoalan keamanan negara dan stabilitas rezim. 57

Enam risiko AI yang disoroti Chen

Dalam artikelnya di majalah resmi China Cyberspace, Chen menguraikan enam jenis risiko keamanan terkait AI. Salah satu perhatian utamanya adalah penggunaan AI generatif untuk memengaruhi opini publik dan memperuncing ketegangan sosial. Ia menyebut teknologi seperti audio dan video deepfake, teks serta gambar buatan AI, dan akun media sosial otomatis dapat dipakai untuk memproduksi rumor politik dalam skala besar, menyebarkan konten berbahaya, serta menjalankan perang opini publik dan kognitif. Menurutnya, aktivitas seperti itu dapat mengganggu stabilitas politik China. 57

Chen juga menilai AI membuat serangan siber lebih mudah dilakukan. Teknologi ini dapat menurunkan biaya dan ambang keahlian teknis untuk mencari celah sistem, membuat malware, atau mengembangkan perangkat lunak yang mengeksploitasi kelemahan tersebut. Risiko berikutnya mencakup pengumpulan intelijen dan kebocoran besar-besaran atas rahasia negara, data dagang yang sensitif, serta informasi pribadi warga. 31113

Infrastruktur informasi kritis dan tata kelola sosial turut menjadi perhatian. Reuters melaporkan Chen secara khusus menilai model-model AI canggih dari Amerika Serikat dapat menimbulkan risiko serius bagi infrastruktur informasi kritis China, sehingga ia menyerukan penguatan keamanan AI secara menyeluruh. 3

AI juga dipandang sebagai soal kedaulatan teknologi

Peringatan Chen tidak berhenti pada deepfake atau kejahatan siber. Ia menggambarkan persaingan AI internasional sebagai arena strategis ketika negara-negara terdepan menggunakan alasan keamanan nasional untuk membatasi teknologi, membentuk atau memonopoli standar, serta membangun ekosistem tertutup dan berpemilik. 57

Dengan sudut pandang ini, keselamatan AI bagi Beijing berkaitan erat dengan ketergantungan teknologi, kendali rantai pasok, pembatasan akses teknologi, dan kemungkinan campur tangan asing. Artinya, standar keselamatan atau mekanisme pengawasan internasional dapat dipandang bukan hanya sebagai perlindungan dari risiko teknis, tetapi juga berpotensi menjadi instrumen persaingan geopolitik.

Berbeda dengan seruan perlambatan dari Anthropic

Pada saat yang hampir bersamaan, CEO Anthropic Dario Amodei menyerukan agar laju peningkatan kemampuan model AI terdepan diperlambat dalam esainya, We Must Pace the Frontier. Ia tidak meminta penghentian pengembangan AI, tetapi meminta agar kemampuan model tidak melaju lebih cepat daripada kesiapan untuk menyelaraskan perilakunya, mengamankannya, dan mengujinya secara independen. 122

Usul Amodei mencakup evaluator independen yang memiliki akses berkelanjutan setara karyawan di laboratorium AI terdepan, komitmen keselamatan bersama di antara negara-negara demokratis, dan pada akhirnya koordinasi global yang juga melibatkan pemerintahan otoriter. 122

CEO OpenAI Sam Altman mengatakan perusahaannya akan mengikuti gagasan akses bagi evaluator independen tersebut. Elon Musk juga menyatakan setuju dengan seruan Amodei untuk mengatur laju pengembangan AI. 101

Titik temu ada, tetapi perbedaan mendasarnya besar

Pendekatan Beijing berpusat pada negara: menjaga stabilitas politik, otoritas Partai Komunis China, kendali ideologi, kedaulatan data, keamanan infrastruktur, dan kebebasan dari tekanan teknologi asing. Karena itu, operasi pengaruh berbasis AI dan akses pihak luar terhadap data China dipandang sebagai ancaman keamanan nasional langsung. 57

Sebaliknya, pendekatan keselamatan AI di Silicon Valley lebih berpusat pada kemampuan model. Kekhawatirannya ialah model yang terlalu kuat dan tidak cukup selaras atau aman dapat memungkinkan serangan siber besar, tindakan otonom yang merugikan, penyalahgunaan ilmiah berbahaya, atau hilangnya kendali manusia yang berarti. Instrumen yang ditekankan adalah evaluasi, pengamanan teknis, dan aturan keselamatan lintas negara. 122

Kedua perspektif itu tetap memiliki irisan: keduanya mengakui risiko penyalahgunaan AI untuk serangan siber, spionase, disinformasi, dan kepentingan militer. Namun, mereka berbeda dalam pertanyaan penting: siapa yang menetapkan standar, apakah aturan keselamatan dapat berubah menjadi pembatasan teknologi strategis, dan seberapa jauh transparansi serta evaluasi eksternal dapat diterima tanpa dianggap mengganggu kedaulatan.

Dampaknya bagi pembicaraan AS–China

Amerika Serikat dan China dilaporkan bersiap menggelar dialog pertengahan September yang secara khusus membahas keselamatan AI—yang pertama pada masa jabatan kedua Presiden Donald Trump. 4

Artikel Chen mengisyaratkan Beijing kemungkinan akan membawa agenda yang lebih luas daripada sekadar penyelarasan model AI terdepan atau risiko katastrofik. China kemungkinan akan menekankan campur tangan asing, perlindungan data dan infrastruktur, perlakuan setara dalam pembentukan standar, serta penolakan terhadap kebijakan yang dipandang sebagai pembendungan teknologi. 37

Karena itu, kesepakatan luas mengenai batas kemampuan model atau evaluasi universal mungkin sulit dicapai. Kerja sama yang lebih sempit dan konkret—misalnya penanganan serangan siber berbasis AI, penipuan dengan media sintetis, pelaporan insiden, atau komunikasi risiko militer—berpotensi lebih memungkinkan. Bagi Washington, pengamanan tersebut dapat dipandang sebagai pengurangan risiko; bagi Beijing, mekanisme yang sama dapat dilihat sebagai cara mempertahankan keunggulan teknologi AS.