Chen Yixin: AI boleh ancam kestabilan politik dan kedaulatan teknologi China

Chen Yixin membingkaikan ancaman AI terutamanya sebagai isu keselamatan rejim dan kedaulatan teknologi China, bukannya sekadar persoalan keselamatan umum atau risiko kepupusan manusia. Menurut beliau, pihak yang bermusuhan boleh menggunakan AI untuk menggugat kestabilan politik serta ideologi China, menembusi data dan infrastruktur negara, dan mengekalkan China dalam susunan teknologi global yang dikuasai pihak luar. 2

Deepfake, bot dan perang maklumat

Chen memberi amaran bahawa deepfake, teks dan imej yang dijana AI, serta akaun media sosial automatik boleh digunakan untuk mereka-reka khabar angin politik, menyebarkan maklumat yang dianggap memudaratkan, dan membesarkan perpecahan dalam masyarakat. Beliau mengaitkan teknik ini dengan apa yang digelar “perang pendapat awam” dan “perang kognitif” — iaitu usaha mempengaruhi persepsi, sentimen dan pertimbangan orang ramai — yang menurutnya boleh mengancam keselamatan politik, institusi dan ideologi China. 2

Pengintipan data dan infrastruktur kritikal

Satu lagi kebimbangan ialah keupayaan AI untuk mengumpulkan, menganalisis dan membina profil daripada set data yang sangat besar. Chen berkata keupayaan ini boleh membantu pengumpulan risikan asing, termasuk mendapatkan rahsia negara, maklumat komersial atau perdagangan, dan data peribadi. 2

Beliau turut mengaitkan model AI canggih dengan ancaman terhadap infrastruktur maklumat kritikal. AI yang semakin berupaya mengesan kelemahan sistem serta menghasilkan perisian hasad atau kod untuk mengeksploitasinya boleh memperbesar risiko serangan siber. 23

Persaingan teknologi sebagai isu keselamatan negara

Bagi Chen, AI juga ialah medan persaingan strategik. Negara yang mendahului teknologi ini, katanya, boleh menggunakan alasan keselamatan negara untuk mengenakan sekatan teknologi, menguasai piawaian dan membina ekosistem tertutup. 2

Implikasinya jelas: China perlu memperkukuh keupayaan teknologi tempatan, mengawal data, algoritma dan infrastruktur penting, serta mengurangkan pergantungan kepada teknologi luar. Dalam kerangka ini, keselamatan AI turut bermaksud mengekalkan keupayaan negara untuk menentukan peraturan dan arah teknologinya sendiri. 2

Bezanya dengan Amodei, Altman dan Musk

Dario Amodei, ketua eksekutif Anthropic, menyeru syarikat AI memperlahankan peningkatan keupayaan model termaju supaya langkah keselamatan dapat mengejar kemajuan teknologi. Pelan beliau merangkumi penilai bebas yang mendapat akses seperti pekerja untuk mengesahkan amalan keselamatan, penyelarasan standard antara syarikat dan kerajaan demokrasi, serta kerjasama antarabangsa yang lebih luas. 1

Sam Altman dari OpenAI menyatakan persetujuan bahawa industri perlu “mengawal rentak di barisan hadapan” (pace the frontier) dan menyokong idea penilai pihak ketiga dengan akses yang bermakna. Elon Musk pula menjawab ringkas: “Dario is right.” 1

Perbezaan utamanya ialah fokus. Amodei, Altman dan Musk menekankan keperluan memperlahankan serta menilai kemajuan keupayaan AI agar manusia tidak kehilangan kawalan. Chen pula menumpukan bagaimana AI boleh digunakan oleh pihak lawan untuk menjejaskan pemerintahan Parti Komunis China, memperoleh data China dan mengekalkan kelebihan teknologi Barat. 12

Namun, terdapat satu titik persamaan yang terhad: China juga telah menyatakan bahawa AI yang semakin autonomi dan berpotensi terlepas daripada kawalan manusia ialah risiko keselamatan masa depan. Ini membuka ruang sempit untuk perbincangan keselamatan AI antara Amerika Syarikat dan China, walaupun persaingan lebih besar mengenai cip, model, piawaian dan pihak yang menetapkan aturan tadbir urus masih berterusan. 3

Reaksi rasmi dan media negara China pula menggambarkan seruan Barat untuk memperlahankan AI sebagai didorong ketakutan, merosakkan persaingan, atau sebagai usaha menyekat kemajuan teknologi China — bukannya dasar keselamatan yang neutral. 2