กติกาความปลอดภัย AI ระดับโลกจะน่าเชื่อถือได้อย่างไร หากต้องตรวจสอบได้จริง

คำถามสำคัญของความปลอดภัย AI ไม่ใช่เพียงบริษัทบอกว่า «ทดสอบแล้ว» หรือไม่ แต่คือ ใครตรวจสอบผลนั้นได้ และจะเกิดอะไรขึ้นหากระบบไม่ผ่านเกณฑ์ กติการะดับโลกจึงต้องเชื่อมมาตรฐานที่ประเทศต่าง ๆ ใช้ร่วมกัน เข้ากับการประเมินที่เป็นอิสระและอำนาจบังคับใช้ของแต่ละประเทศ

โจเซฟีน เตียว รัฐมนตรีด้านการพัฒนาดิจิทัลและสารสนเทศของสิงคโปร์ เปรียบเทียบ AI กับการบินพลเรือนว่า ความไว้วางใจที่ทำให้ผู้คนใช้เทคโนโลยีได้เป็นปกติเกิดจากมาตรการป้องกันหลายชั้น ไม่ใช่คำรับรองเพียงข้อเดียว เธอเสนอให้สร้างมาตรการเหล่านั้นไปพร้อมกับการนำ AI มาใช้ 36

บทเรียนจากการบิน: เริ่มร่วมมือก่อน แล้วค่อยยกระดับกติกา

กฎการบินระหว่างประเทศไม่ได้เกิดขึ้นครบถ้วนในคราวเดียว ก่อนอนุสัญญาปารีส ค.ศ. 1919 มีทั้งกฎหมายของแต่ละประเทศและข้อตกลงทวิภาคี ต่อมาอนุสัญญาชิคาโก ค.ศ. 1944 วางกรอบใหม่ และองค์การการบินพลเรือนระหว่างประเทศ หรือ ICAO เริ่มดำเนินงานใน ค.ศ. 1947 313935 บทเรียนสำหรับ AI จึงไม่ใช่การยกคู่มือการบินมาใช้ตรง ๆ แต่เป็นการเริ่มจากข้อตกลงที่ทำได้จริง แล้วปรับให้เข้มแข็งขึ้นเมื่อมีแนวปฏิบัติร่วมกัน

หากนำหลักคิดนี้มาใช้ องค์กรประสานงานระหว่างประเทศอาจกำหนดมาตรฐานขั้นต่ำ รับรองคุณสมบัติผู้ประเมิน และรวบรวมข้อมูลเหตุผิดพลาด ขณะที่หน่วยงานกำกับของแต่ละประเทศยังต้องมีอำนาจตรวจสอบ สั่งแก้ไข จำกัดการใช้งาน และลงโทษ ใบรับรองระดับนานาชาติไม่ควรใช้แทนการบังคับใช้กฎหมายในประเทศ

ความปลอดภัยยังต้องติดตามตลอดอายุการใช้งาน ตั้งแต่การทดสอบก่อนเปิดใช้ การเฝ้าระวังระหว่างใช้งาน การประเมินใหม่หลังเปลี่ยนระบบอย่างมีนัยสำคัญ ไปจนถึงแผนย้อนกลับหรือเลิกใช้ การอนุมัติควรระบุให้ชัดว่าใช้กับระบบเวอร์ชันใดและในบริบทใด ไม่ใช่ผ่านครั้งเดียวแล้วใช้ได้ทุกกรณีตลอดไป

เปลี่ยนคำว่า «ปลอดภัย» ให้เป็นหลักฐานที่โต้แย้งและตรวจซ้ำได้

คะแนนทดสอบที่บริษัทเผยแพร่เองหรือเครื่องหมายรับรองอย่างเดียวไม่เพียงพอ ผู้ประเมินที่ได้รับการรับรองควรเข้าถึงตัวระบบ การตั้งค่าที่ใช้จริง เอกสาร และบันทึกความล้มเหลวสำคัญผ่านช่องทางที่ปลอดภัย วิธีทดสอบและข้อค้นพบต้องชัดพอให้ผู้ประเมินรายอื่นตรวจทานหรือทักท้วงได้ โดยยังคุ้มครองข้อมูลส่วนบุคคล ความลับทางการค้า และข้อมูลที่อาจกระทบความมั่นคง

สำหรับระบบความเสี่ยงสูง ผู้พัฒนาอาจต้องยื่น เอกสารชี้แจงกรณีความปลอดภัย ว่าระบบทำอะไรได้บ้าง ทดสอบอย่างไร มาตรการใดพิสูจน์ผลแล้ว ความเสี่ยงใดยังเหลือ และจะรับมือเหตุผิดพลาดอย่างไร หากหลักฐานไม่พอ หน่วยงานกำกับต้องสั่งแก้ไขหรือจำกัดการใช้งานได้ เป้าหมายคือพิสูจน์ว่าเป็นไปตามข้อกำหนดที่ชัดเจน ไม่ใช่รับประกันว่าจะไม่มีอันตรายเกิดขึ้นเลย

ความเป็นอิสระยังขึ้นอยู่กับเงินทุน บริษัทขนาดใหญ่อาจสมทบกองทุนทดสอบที่บริหารร่วมกันหรือโดยหน่วยงานกำกับ แทนการเลือกและควบคุมผู้ประเมินที่มาตรวจตนเอง ส่วนการสอบสวนความล้มเหลวร้ายแรงและเหตุเกือบเกิดความเสียหายควรเน้นการป้องกันไม่ให้เกิดซ้ำ การคุ้มครองผู้แจ้งเหตุช่วยให้คนกล้ารายงาน แต่ไม่ใช่ข้อยกเว้นให้การปกปิดหรือการกระทำผิด

สิงคโปร์ช่วยได้ แต่ความไว้วางใจต้องพิสูจน์

สิงคโปร์มีเครื่องมือ AI Verify และสถาบันความปลอดภัย AI เป็นฐานสำหรับงานทดสอบและประเมินความน่าเชื่อถือ ขณะที่เตียวสนับสนุนการสร้างมาตรการป้องกันไปพร้อมกับการใช้งาน 13 ประเทศนี้อาจเป็นสถานที่จัดการประเมินร่วม หรือแลกเปลี่ยนข้อมูลทางเทคนิคที่เป็นความลับภายในเครือข่ายห้องทดสอบที่ได้รับการรับรอง

แต่การเป็นเจ้าภาพไม่ได้แปลว่าสหรัฐฯ และจีนจะยอมรับผลโดยอัตโนมัติ ความเชื่อมั่นต้องอาศัยโครงสร้างกำกับดูแลที่โปร่งใส กติกาการเข้าถึงข้อมูลที่ปลอดภัย ช่องทางอุทธรณ์ที่เป็นอิสระ และการเข้าร่วมจริงของทั้งสองฝ่าย เครือข่ายที่กระจายอยู่หลายแห่งยังช่วยลดการพึ่งพาศูนย์กลางเดียว

ไม่ต้องเห็นตรงกันเรื่อง «ชะลอ AI» จึงจะเริ่มลดความเสี่ยงได้

ความเห็นเรื่องความเร็วในการพัฒนา AI ยังต่างกันมาก Reuters รายงานว่า ดาริโอ อโมเดอี, แซม อัลต์แมน และอีลอน มัสก์ เรียกร้องให้ชะลอการพัฒนาอย่างประสานกัน ขณะที่มาร์ก ซักเคอร์เบิร์กเห็นด้วยกับมาตรการที่ขับเคลื่อนโดยตลาด และเจนเซน หวงไม่เห็นว่าจำเป็นต้องมีกฎใหม่ 4748 จีนปฏิเสธข้อเรียกร้องให้ชะลอ ส่วนประธานาธิบดีโดนัลด์ ทรัมป์กล่าวว่าไม่คาดว่าจะมีความคืบหน้าเรื่องกติกาควบคุม AI ในการพบกับสี จิ้นผิง วันที่ 24 กันยายน 2569 5850 รายงานเกี่ยวกับการพบกันครั้งนั้นก็ระบุว่าความคาดหวังต่อข้อตกลงครั้งใหญ่มีน้อย 49

ถึงอย่างนั้น ประเทศต่าง ๆ อาจเริ่มจากอันตรายที่ทุกฝ่ายต้องการหลีกเลี่ยง ผู้เชี่ยวชาญด้านความมั่นคงจากสหรัฐฯ และจีนเสนอเส้นแดงเกี่ยวกับระบบนิวเคลียร์ การคงอำนาจตัดสินใจของมนุษย์เหนือการโจมตีทางไซเบอร์ที่มีผลร้ายแรง และสายด่วนสำหรับเหตุที่เกี่ยวข้องกับ AI อัตโนมัติ 20 ข้อเสนอเหล่านี้อาจต่อยอดเป็นช่องทางติดต่อฉุกเฉิน การแจ้งเหตุร้ายแรง และการหารือทางเทคนิคแบบต่างฝ่ายต่างมีพันธกรณี โดยประเทศอื่นต้องมีส่วนร่วมในการกำหนดมาตรฐานและเข้าถึงศักยภาพการทดสอบด้วย

ยืมหลักจากการควบคุมอาวุธและภาคการเงินอย่างเลือกใช้

บทเรียนจากข้อตกลงควบคุมอาวุธคือการเจรจาพันธกรณีที่จำกัดขอบเขตและตรวจสอบการปฏิบัติตามได้ สนธิสัญญา AI ในอนาคตอาจตั้งองค์กรถาวรเพื่อประสานงานและทบทวนการปฏิบัติตาม โดยเปิดให้วิธีทดสอบทางเทคนิคปรับเปลี่ยนได้ แต่ทั้งสนธิสัญญานิวเคลียร์และ ICAO ไม่ใช่ต้นแบบสำเร็จรูปสำหรับ AI

ส่วนแนวคิดจากการกำกับภาคการเงินคือ วางภาระหนักที่สุดไว้ตรงที่ความล้มเหลวอาจกระทบมากที่สุด ผู้พัฒนาและผู้ใช้งานระบบความเสี่ยงสูงอาจต้องผ่านการประเมินอิสระ กำหนดความรับผิดชอบของผู้บริหาร เตรียมแผนกู้คืน และรายงานอย่างรวดเร็วเมื่อเกิดปัญหาความปลอดภัยร้ายแรง ข้อมูลรั่วไหลครั้งสำคัญ การถูกแฮ็ก หรือการขโมยโมเดล ธุรกิจขนาดเล็กที่ให้บริการความเสี่ยงต่ำอาจใช้โครงสร้างทดสอบร่วมและเอกสารที่เรียบง่ายกว่า แต่ขนาดเล็กไม่ควรเป็นข้อยกเว้นให้ระบบอันตราย

การมีสนธิสัญญาและองค์กรถาวรภายในปี 2573 เป็นเป้าหมายเชิงนโยบายที่ทะเยอทะยาน ไม่ใช่คำทำนาย ตัวชี้วัดความคืบหน้าที่ใกล้ตัวกว่าคือ ประเทศต่าง ๆ ตกลงนิยามเหตุร้ายแรง หลักความเป็นอิสระของผู้ประเมิน และมาตรการที่ตรวจสอบร่วมกันได้หรือไม่—รวมถึงหน่วยงานกำกับลงมือได้จริงหรือไม่เมื่อหลักฐานยังไม่เพียงพอ