Amaran Chen Yixin: AI boleh menjadi ancaman keselamatan negara China

Chen Yixin membingkaikan kecerdasan buatan (AI) terutama sebagai persoalan keselamatan negara dan keselamatan rejim. Dalam eseinya di majalah rasmi China Cyberspace, Menteri Keselamatan Negara China itu memberi amaran bahawa AI yang berkembang pantas—jika disalah guna oleh pihak lawan—boleh menggugat kestabilan politik, mencuri data sensitif, menjejaskan infrastruktur penting dan memperdalam kebergantungan teknologi China kepada pihak luar. 3712

Enam risiko yang dibangkitkan Chen

Chen menyenaraikan enam risiko keselamatan berkaitan AI. Antara kebimbangan utamanya ialah penggunaan teknologi itu oleh apa yang beliau sifatkan sebagai kuasa bermusuhan untuk menjalankan operasi pengaruh pada skala besar. Deepfake audio dan video, teks serta imej janaan AI, dan akaun media sosial automatik boleh digunakan untuk mereka khabar angin politik, menyebarkan kandungan berbahaya, mengapi-apikan pertentangan sosial dan melancarkan perang pendapat awam atau perang kognitif. Pada pandangan beliau, keadaan itu boleh secara langsung mengancam keselamatan politik, institusi dan ideologi China. 57

Beliau juga menegaskan bahawa AI mengurangkan kos serta tahap kepakaran teknikal yang diperlukan untuk pencerobohan siber dan pembangunan perisian hasad. Teknologi ini, katanya, boleh membantu pengumpulan risikan dan kebocoran besar-besaran rahsia negara, data perdagangan yang sensitif serta maklumat peribadi. Risiko itu turut melibatkan infrastruktur maklumat kritikal dan keupayaan kerajaan mengurus masyarakat. 31113

Persaingan AI juga dilihat sebagai isu kedaulatan teknologi

Bagi Chen, keselamatan AI tidak boleh dipisahkan daripada persaingan strategik antara negara. Beliau menggambarkan persaingan AI global sebagai keadaan apabila negara-negara peneraju menggunakan alasan keselamatan negara untuk mengenakan kawalan teknologi, membentuk atau memonopoli piawaian, dan membina ekosistem tertutup atau proprietari. 57

Dalam kerangka ini, isu keselamatan merangkumi kebergantungan strategik, kawalan rantaian bekalan, usaha mengekang teknologi dan kemungkinan campur tangan asing. Justeru, Beijing melihat akses kepada teknologi teras AI dan kuasa menentukan piawaian sebagai sebahagian daripada keselamatan nasional, bukan sekadar isu komersial.

Berbeza dengan seruan Amodei untuk “memperlahankan sempadan”

Pada masa yang sama, Ketua Eksekutif Anthropic, Dario Amodei, mengemukakan kebimbangan dari sudut lain. Dalam eseinya, “We Must Pace the Frontier”, beliau tidak meminta kemajuan AI dihentikan. Sebaliknya, beliau mencadangkan peningkatan keupayaan model diperlahankan secukupnya supaya penyelarasan AI, perlindungan keselamatan dan ujian bebas dapat mengejar perkembangan teknologi. 122

Cadangannya termasuk:

• penilai bebas yang ditempatkan dalam makmal AI dengan akses berterusan setara pekerja;
• komitmen keselamatan bersama dalam kalangan negara demokrasi dan syarikat AI perintis; serta
• kerjasama global yang akhirnya turut melibatkan kerajaan autoritarian. 122

Sam Altman dari OpenAI berkata syarikatnya akan menerima idea penilai bebas dengan akses setara pekerja, manakala Elon Musk turut menyokong seruan Amodei supaya pembangunan AI diperlahankan. 101

Titik persamaan, tetapi jurang besar

Kedua-dua pendekatan mengakui bahawa AI boleh disalah guna untuk serangan siber, pengintipan, maklumat palsu dan kegunaan ketenteraan. Namun, fokusnya berbeza.

• Lensa Beijing bersifat negara-sentrik: keutamaan diberikan kepada kestabilan politik, kuasa Parti Komunis, kawalan ideologi, kedaulatan data, keselamatan infrastruktur dan kebebasan daripada paksaan teknologi asing. 57
• Lensa keselamatan AI perintis di Silicon Valley bersifat keupayaan-sentrik: kebimbangannya ialah model yang terlalu berkeupayaan tetapi gagal diselaraskan, dilindungi atau ditadbir—termasuk risiko serangan siber besar, tindakan autonomi yang memudaratkan, penyalahgunaan saintifik dan hilangnya kawalan manusia yang bermakna. 122

Perbezaan ini penting kerana pihak-pihak tersebut mungkin tidak sepakat tentang piawaian yang patut diguna pakai. Langkah seperti penilaian luaran atau had keupayaan model boleh dianggap Washington sebagai usaha mengurangkan risiko, tetapi boleh dilihat Beijing sebagai instrumen untuk mengekalkan kelebihan teknologi Amerika Syarikat.

Implikasi kepada dialog AS–China

Amerika Syarikat dan China dilaporkan sedang bersedia untuk mengadakan dialog keselamatan AI pada pertengahan September, yang akan menjadi rundingan rasmi dua hala pertama dalam penggal kedua Presiden Donald Trump yang dikhususkan kepada isu itu. 4

Esei Chen memberi isyarat bahawa Beijing berkemungkinan mahu agenda perbincangan meliputi campur tangan asing, keselamatan data dan infrastruktur, layanan saksama dalam penetapan piawaian, serta penolakan terhadap pengekangan teknologi—bukan hanya isu penyelarasan model AI perintis dan risiko bencana seperti yang ditekankan Amodei. 37

Persetujuan yang lebih realistik mungkin tertumpu pada bahaya yang jelas dan khusus, seperti serangan siber berbantukan AI, penipuan menggunakan media sintetik, pelaporan insiden dan komunikasi bagi mengurangkan risiko ketenteraan. Mencapai persetujuan mengenai penilaian sejagat atau had keupayaan AI pula dijangka jauh lebih sukar.