Eric Xu มองจีนต้องเร่ง AI ไปพร้อมกับการจัดการความเสี่ยง

Eric Xu ประธานหมุนเวียนของ Huawei เสนอกรอบคิดว่า จีนไม่ควรเลือกระหว่าง “เร่ง AI” กับ “คุมความเสี่ยง” แต่ควรทำทั้งสองอย่างพร้อมกัน เขาระบุว่านักพัฒนา AI ของจีนอาจยังไปไม่ถึงระดับขีดความสามารถที่ทำให้พบพฤติกรรมโมเดลอันไม่คาดคิดหรือความเสี่ยงขั้นสูงแบบที่บริษัทชั้นนำสหรัฐฯ รายงาน จึงควรเดินหน้าสร้างโมเดลที่ทรงพลังกว่าเดิม ควบคู่กับการถ่วงดุลนวัตกรรมและความเสี่ยง

มุมมองของ Xu: พัฒนาให้ทัน แล้วกำกับไปพร้อมกัน

ในงาน Huawei Connect นั้น Xu กล่าวว่านักพัฒนา AI จีนอาจยังไม่ก้าวหน้าพอจะเผชิญความเสี่ยงด้านความปลอดภัยในระดับเดียวกับบริษัทชั้นนำของสหรัฐฯ และสนับสนุนให้เดินหน้าพัฒนาโมเดลที่มีศักยภาพสูงขึ้น โดยไม่ละเลยการบริหารความเสี่ยง

สาระสำคัญไม่ใช่การบอกว่า AI จีน “ปลอดภัยอยู่แล้ว” แต่เป็นการมองว่าการไปให้ถึงขีดความสามารถที่สูงขึ้นเป็นส่วนหนึ่งของการเข้าใจความเสี่ยงเหล่านั้นในทางปฏิบัติ แนวทางที่ตามมาคือ เร่งพัฒนาและกำกับดูแลควบคู่กัน ทั้งด้านความมั่นคงปลอดภัย การควบคุมระบบ และการนำไปใช้งาน

ต่างจากข้อเสนอให้ชะลอ AI ระดับแนวหน้าอย่างไร

Dario Amodei ซีอีโอของ Anthropic เสนอให้ชะลอความเร็วของการพัฒนาโมเดล AI ระดับแนวหน้า เพื่อให้มีเวลารับมือความเสี่ยงด้านความปลอดภัยที่เพิ่มขึ้น Reuters รายงานว่าข้อเสนอนี้ได้รับการสนับสนุนในเวลาต่อมาจาก Sam Altman ซีอีโอ OpenAI และ Elon Musk 13

แนวคิดของ Amodei ให้ความสำคัญกับหลักป้องกันไว้ก่อน: หากความสามารถของโมเดลพัฒนาเร็วกว่ามาตรการคุ้มครอง ห้องปฏิบัติการ AI ก็ควรตั้งใจลดความเร็วลง Reuters ยังรายงานความกังวลต่อพฤติกรรมที่ไม่คาดคิดและอาจก่ออันตรายของโมเดล รวมถึงเหตุการณ์ที่อ้างถึงเกี่ยวกับ “ฝูง” AI ซึ่งดำเนินการโจมตีทางไซเบอร์

ส่วน Xu ยอมรับว่าต้องรักษาสมดุลระหว่างการพัฒนาและความเสี่ยง แต่เห็นว่าโจทย์เร่งด่วนของจีนคือการเพิ่มขีดความสามารถและกำลังประมวลผลให้เข้าใกล้แนวหน้าของโลก ซึ่งเป็นระดับที่ความเสี่ยงดังกล่าวจะเด่นชัดขึ้น

เหตุใดข้อเสนอชะลอจึงถูกวิจารณ์ในจีน

Global Times สื่อที่ได้รับการสนับสนุนจากรัฐจีน เรียกข้อเสนอของ Amodei ว่าเป็น “ตำราสงครามเย็น” โดยให้เหตุผลว่า การชะลอที่นำเสนอในนามความปลอดภัยอาจกลายเป็นข้อจำกัดต่อการพัฒนาเทคโนโลยีของจีน 13

บริบททางภูมิรัฐศาสตร์ทำให้ข้อเสนอเรื่องการ “กำหนดจังหวะ” ของ AI ถูกมองเชื่อมโยงกับการแข่งขันด้านชิป โมเดล และความเป็นผู้นำเทคโนโลยีด้วย หากสหรัฐฯ มีความได้เปรียบอยู่แล้วทั้งในโมเดลแนวหน้าและทรัพยากรคอมพิวต์ การชะลอโดยสมัครใจในระดับโลกอาจส่งผลไม่เท่ากันต่อแต่ละฝ่าย Brookings ระบุว่าบริษัท AI จีน โดยเฉพาะสตาร์ตอัป เผชิญข้อจำกัดด้านคอมพิวต์จากมาตรการควบคุมการส่งออกชิป AI ขั้นสูงของสหรัฐฯ รวมถึงข้อจำกัดด้านเงินทุน

แน่นอนว่าเหตุผลนี้ไม่ได้ยุติข้อถกเถียงเรื่องความปลอดภัย AI แต่ช่วยอธิบายว่าเหตุใดผู้แสดงความเห็นและสื่อจีนจำนวนหนึ่งจึงมองคำเรียกร้องให้ชะลอ AI ว่าแยกไม่ออกจากการแข่งขันทางเทคโนโลยี

จีนเตรียมมาตรฐานความปลอดภัยสำหรับ AI Agent

ขณะเดียวกัน จีนกำลังผลักดันเครื่องมือกำกับดูแลซอฟต์แวร์ที่ทำงานอัตโนมัติมากขึ้น มาตรฐานแห่งชาติภาคบังคับที่อยู่ระหว่างจัดทำชื่อ General Security Requirements for Artificial Intelligence Agent Application มีเป้าหมายใช้กับแอปพลิเคชัน AI Agent บนอุปกรณ์และแพลตฟอร์มคลาวด์ โดยมีกำหนดวงจรการพัฒนา 18 เดือน ตามรายงานของ CGTN

AI Agent แตกต่างจากแชตบอตที่เพียงสร้างข้อความ เพราะสามารถใช้เครื่องมือและดำเนินการแทนผู้ใช้ได้ ประเด็นความปลอดภัยจึงไม่ได้อยู่แค่คุณภาพของคำตอบ แต่ครอบคลุมสิทธิ์การเข้าถึง การเรียกใช้เครื่องมือ การจัดการข้อมูล การระบุตัวตน และความสามารถในการควบคุมระบบหลังถูกนำไปใช้งาน

ความต่างในประเด็นนี้จึงไม่ใช่ภาพแบบง่าย ๆ ว่า “จีนกำกับ แต่สหรัฐฯ ไม่กำกับ” หากแต่จีนให้น้ำหนักกับมาตรฐานที่รัฐสนับสนุนและข้อกำหนดอย่างเป็นทางการสำหรับแอปพลิเคชัน Agent ขณะที่การอภิปรายในสหรัฐฯ มีข้อผูกพันโดยสมัครใจและแนวปฏิบัติด้านความปลอดภัยจากห้องปฏิบัติการ AI ระดับแนวหน้าเป็นส่วนสำคัญ 13

วิสัยทัศน์ Huawei ปี 2035: Agent จะครองทราฟฟิกโทเค็น AI

Huawei คาดว่า AI Agent อัตโนมัติจะคิดเป็นมากกว่า 90% ของทราฟฟิกโทเค็น AI ทั่วโลกภายในปี 2035 โดย “โทเค็น” คือหน่วยข้อมูลที่โมเดลประมวลผลขณะรับและสร้างข้อมูล บริษัทระบุว่าสถานการณ์นี้จะต้องใช้พลังประมวลผลเพิ่มขึ้นอย่างมาก พร้อมระบบที่ทำให้ซอฟต์แวร์อิสระมีความมั่นคงปลอดภัยและควบคุมได้ 1

Huawei ยังประเมินว่าอาจมี Agent ที่ใช้งานอยู่มากถึง 900,000 ล้านตัวภายในปี 2035 อย่างไรก็ดี นี่คือการคาดการณ์ของบริษัทเพื่อใช้วางภาพการลงทุนโครงสร้างพื้นฐาน ไม่ใช่ข้อสรุปที่ยืนยันแล้วของตลาด 3

แต่ตัวเลขดังกล่าวสะท้อนเหตุผลที่ Huawei มองความปลอดภัยของ Agent เป็นโจทย์วิศวกรรมหลัก หากระบบ AI เริ่มเฝ้าติดตามข้อมูล ตัดสินใจ และเรียกใช้เครื่องมือภายนอกมากขึ้น การกำหนดสิทธิ์เข้าถึงและควบคุมพฤติกรรมของระบบก็จะกลายเป็นส่วนหนึ่งของโครงสร้างพื้นฐาน ไม่ใช่เรื่องที่ค่อยตามมาแก้ภายหลัง

คอขวดที่ Xu มองว่าเร่งด่วนที่สุดคือคอมพิวต์

Xu กล่าวว่า Huawei ยังผลิตอุปกรณ์ประมวลผลสำหรับ AI ได้ไม่เพียงพอต่อความต้องการภายในจีน จึงจำกัดการขายในต่างประเทศ 2

ข้อจำกัดนี้อยู่ใจกลางยุทธศาสตร์ AI ของ Huawei เพราะการฝึกและให้บริการโมเดลที่มีความสามารถสูงต้องพึ่งฮาร์ดแวร์ เครือข่าย และศูนย์ข้อมูลขนาดใหญ่ Brookings ก็ชี้ว่าการเข้าถึงชิป AI ขั้นสูงที่ถูกจำกัดเป็นอุปสรรคต่อบริษัทจีนในการขยายคอมพิวต์ให้ทัดเทียมคู่แข่งสหรัฐฯ

ดังนั้น ประเด็นของ Xu คือเรื่องการจัดลำดับความสำคัญ จีนควรยกระดับความปลอดภัยและการควบคุม AI แต่ไม่ควรใช้ความเสี่ยงเป็นเหตุให้หยุดสร้างขีดความสามารถ สำหรับเขา กำลังการผลิตอุปกรณ์คอมพิวต์ที่จำกัดคืออุปสรรคระยะสั้นที่สำคัญกว่าในการลดช่องว่างกับแนวหน้าของโลก ขณะที่การบริหารความเสี่ยงต้องเดินหน้าไปพร้อมกัน ไม่ใช่เข้ามาแทนที่การพัฒนา 2