Chen Yixin Peringatkan AI Bisa Dipakai untuk Mengguncang Keamanan Politik China

Bagi Chen Yixin, Menteri Keamanan Negara China, ancaman AI bukan terutama soal skenario umum seperti kepunahan manusia atau kecelakaan teknologi. Ia membingkainya sebagai persoalan keamanan rezim, stabilitas politik, dan kedaulatan teknologi China. Menurut Chen, pihak lawan dapat memanfaatkan AI untuk mengganggu tatanan politik dan ideologis China, menembus data serta infrastruktur, dan mempertahankan ketergantungan China pada teknologi asing. 2

Deepfake, bot, dan perang kognitif

Chen memperingatkan bahwa deepfake, teks maupun gambar yang dihasilkan AI, serta akun media sosial otomatis dapat digunakan untuk membuat rumor politik, menyebarkan informasi yang dianggap merugikan, dan memperbesar perpecahan sosial. Teknologi tersebut, menurutnya, dapat menjadi alat dalam perang opini publik dan perang kognitif—upaya memengaruhi cara publik memahami peristiwa atau mengambil sikap politik. Risiko itu dinilai dapat secara langsung mengancam keamanan politik, kelembagaan, dan ideologis China. 2

Spionase data dan infrastruktur penting

Kekhawatiran berikutnya adalah kemampuan AI mengumpulkan, menganalisis, dan membuat profil dari data dalam jumlah sangat besar. Chen menilai kemampuan ini dapat membantu pengumpulan intelijen oleh pihak asing, termasuk untuk memperoleh rahasia negara, informasi komersial atau perdagangan, serta data pribadi. 23

Ia juga mengaitkan AI canggih dengan ancaman terhadap infrastruktur informasi penting. AI dinilai makin mampu menemukan celah pada sistem dan membuat malware atau perangkat lunak yang mengeksploitasi kelemahan tersebut. 2

Kedaulatan teknologi menjadi inti pesannya

Chen menggambarkan AI sebagai arena persaingan strategis. Negara-negara terdepan, menurut kerangka yang ia sampaikan, dapat memakai alasan keamanan nasional untuk menerapkan pembatasan teknologi, menguasai standar, dan membangun ekosistem tertutup. 2

Implikasi kebijakannya adalah penguatan kemampuan AI domestik, kendali negara atas data, algoritme, dan infrastruktur, serta pengurangan ketergantungan pada teknologi dari luar negeri. Dengan kata lain, definisi “keamanan AI” dalam pesan Chen juga mencakup kemampuan China menentukan arah teknologinya sendiri. 2

Berbeda dengan Amodei, Altman, dan Musk

Dario Amodei, CEO Anthropic, menyerukan agar perusahaan AI memperlambat peningkatan kemampuan model terdepan sehingga langkah keselamatan dapat mengejar laju teknologi. Rencana tiga tahapnya mencakup evaluator independen dengan akses bermakna ke perusahaan, koordinasi standar keselamatan di antara perusahaan dan pemerintah demokratis, lalu kerja sama internasional yang lebih luas. 1

Sam Altman dari OpenAI menyatakan setuju bahwa industri perlu “mengatur laju di garis depan” dan mendukung gagasan evaluator pihak ketiga. Elon Musk merespons singkat: “Dario benar.” 1

Perbedaan utamanya ada pada titik tekan. Amodei, Altman, dan Musk dalam episode ini berfokus pada pengendalian kemampuan model serta pencegahan risiko besar yang dapat berdampak luas. Chen berfokus pada kemungkinan AI dipakai lawan untuk melemahkan kekuasaan Partai Komunis China, mengakses data China, dan memperpanjang keunggulan teknologi Barat. 12

Meski demikian, ada irisan terbatas: China juga telah menandai AI yang makin otonom dan kemungkinan hilangnya kendali manusia sebagai risiko keselamatan di masa depan. Itu membuka ruang dialog AS–China mengenai sistem AI yang sulit diawasi. Namun, perselisihan yang lebih besar mengenai akses cip, model, standar, dan siapa yang menetapkan aturan tata kelola AI tetap membayangi. 3

Reaksi resmi dan media pemerintah China memperlihatkan jurang pandang tersebut. Seruan Barat untuk memperlambat AI digambarkan sebagai ketakutan, persaingan yang tidak sehat, atau upaya membatasi kemajuan teknologi China—bukan sebagai kebijakan keselamatan yang netral. 2