เฉิน อี้ซิน เตือน AI อาจถูกใช้บ่อนทำลายความมั่นคงทางการเมืองและเทคโนโลยีของจีน

เฉิน อี้ซิน รัฐมนตรีความมั่นคงแห่งรัฐของจีน วางกรอบความเสี่ยงจาก AI ในฐานะภัยต่อ ความมั่นคงของรัฐและอธิปไตยทางเทคโนโลยี ของจีน มากกว่าจะเป็นเพียงความกังวลทั่วไปว่า AI อาจไม่ปลอดภัยหรือควบคุมไม่ได้ เขาระบุว่า หากฝ่ายตรงข้ามใช้ AI ในทางที่เป็นอันตราย ก็อาจกระทบโดยตรงต่อความมั่นคงทางการเมือง ความมั่นคงของระบบสถาบัน และความมั่นคงทางอุดมการณ์ของจีน 2

ประเด็นที่เฉินเตือน

• ดีปเฟกและสงครามข้อมูล: เขาเตือนว่าดีปเฟก ข้อความหรือภาพที่สร้างโดย AI และบัญชีโซเชียลมีเดียอัตโนมัติ อาจถูกนำไปใช้สร้างข่าวลือทางการเมือง เผยแพร่ข้อมูลที่เป็นอันตราย ขยายความขัดแย้งในสังคม และสนับสนุนสิ่งที่จีนเรียกว่า “สงครามความคิดเห็นสาธารณะ” และ “สงครามการรับรู้” ซึ่งอาจสั่นคลอนระเบียบทางการเมืองและอุดมการณ์ได้ 2

• การจารกรรม ข้อมูล และโครงสร้างพื้นฐาน: AI สามารถรวบรวม วิเคราะห์ และสร้างโปรไฟล์จากข้อมูลมหาศาล จึงอาจเอื้อต่อการข่าวกรองจากต่างชาติ ไม่ว่าจะเป็นความลับของรัฐ ข้อมูลทางธุรกิจหรือการค้า และข้อมูลส่วนบุคคล นอกจากนี้ เฉินยังชี้ถึงความสามารถของ AI ในการค้นหาจุดอ่อนของระบบและสร้างมัลแวร์หรือซอฟต์แวร์เพื่อโจมตีช่องโหว่ ซึ่งเพิ่มความเสี่ยงต่อโครงสร้างพื้นฐานสารสนเทศสำคัญ 23

• อธิปไตยทางเทคโนโลยี: เฉินมอง AI เป็นสนามแข่งขันเชิงยุทธศาสตร์ที่ประเทศผู้นำอาจอ้างเหตุผลด้านความมั่นคงแห่งชาติเพื่อจำกัดการส่งออกเทคโนโลยี ครอบงำมาตรฐาน และสร้างระบบนิเวศแบบปิด นัยเชิงนโยบายคือจีนต้องพัฒนาขีดความสามารถของตนเอง ควบคุมข้อมูล อัลกอริทึม และโครงสร้างพื้นฐานสำคัญภายในประเทศ และลดการพึ่งพาเทคโนโลยีจากภายนอก 2

ต่างจากอโมเดอี อัลต์แมน และมัสก์อย่างไร

ดาริโอ อโมเดอี ซีอีโอของ Anthropic เสนอให้ชะลออัตราการเพิ่มขีดความสามารถของโมเดล AI ระดับแนวหน้า เพื่อให้มาตรการความปลอดภัยตามทัน แนวทางของเขาประกอบด้วยผู้ประเมินอิสระที่เข้าถึงระบบได้ในระดับใกล้เคียงพนักงาน การกำหนดมาตรฐานร่วมในหมู่บริษัทและรัฐบาลประชาธิปไตย และความร่วมมือระดับนานาชาติในระยะต่อไป 1

แซม อัลต์แมน แห่ง OpenAI สนับสนุนแนวคิดการ “กำกับจังหวะของแนวหน้า” และการให้ผู้ประเมินภายนอกเข้าถึงระบบ ขณะที่อีลอน มัสก์ตอบสั้น ๆ ว่า “Dario is right” 1 จุดเน้นของทั้งสามจึงอยู่ที่การชะลอและตรวจสอบการพัฒนาความสามารถของ AI ขั้นสูง

ส่วนกรอบของเฉินเน้น การปกป้องระเบียบทางการเมือง การควบคุมข้อมูล และความเป็นอิสระด้านเทคโนโลยี ความกังวลร่วมกันมีอยู่บ้าง เพราะจีนเองก็ระบุว่า AI ที่มีความเป็นอิสระมากขึ้นและอาจหลุดพ้นจากการควบคุมของมนุษย์เป็นความเสี่ยงในอนาคต 3 แต่ความเห็นร่วมดังกล่าวยังอยู่ท่ามกลางการแข่งขันที่ใหญ่กว่ามาก ทั้งเรื่องชิป โมเดล มาตรฐานเทคโนโลยี และฝ่ายใดจะเป็นผู้กำหนดกติกาการกำกับดูแล AI

ปฏิกิริยาจากจีนยังสะท้อนความแตกต่างนี้ โดยมองเสียงเรียกร้องจากตะวันตกให้ชะลอ AI ว่าอาจเกิดจากความหวาดกลัว การแข่งขันที่ไม่เป็นธรรม หรือความพยายามจำกัดความก้าวหน้าทางเทคโนโลยีของจีน มากกว่าจะเป็นนโยบายความปลอดภัยที่เป็นกลาง 2