สหรัฐฯ ขอทบทวนความปลอดภัย AI ก่อนเปิดให้ผู้ทดสอบอังกฤษเข้าถึง

มีรายงานว่าทำเนียบขาวขอให้ OpenAI และ Anthropic ยังไม่นำโมเดล AI ใหม่ไปให้สถาบันความปลอดภัยด้าน AI ของสหราชอาณาจักรทดสอบ จนกว่าเจ้าหน้าที่สหรัฐฯ จะตรวจสอบก่อน โดยให้เหตุผลว่าต้องการประเมินความปลอดภัยของระบบจากสหรัฐฯ ก่อนแบ่งปันกับพันธมิตร 29

ประเด็นนี้ทำให้เห็นโจทย์สองด้านที่ต้องหาจุดสมดุล: ตรวจสอบความเสี่ยงทางไซเบอร์ก่อนส่งต่อโมเดล และเปิดทางให้นักวิจัยจากประเทศพันธมิตรช่วยประเมินระบบ AI ที่มีความสามารถสูงขึ้น ข่าวที่มีอยู่ระบุว่าเป็นคำขอ ไม่ใช่การประกาศห้ามการทดสอบในอังกฤษอย่างเป็นทางการ 29

เหตุใดสหรัฐฯ จึงต้องการตรวจสอบก่อน

ตามรายงานของ Politico ซึ่ง Reuters นำมาอ้าง ทำเนียบขาวต้องการให้เจ้าหน้าที่สหรัฐฯ ตรวจสอบโมเดลใหม่ก่อนส่งให้สถาบันความปลอดภัยด้าน AI ของอังกฤษ หน่วยงานดังกล่าวทำหน้าที่ทดสอบและประเมินระบบ AI ส่วนความกังวลที่รายงานระบุคือ ระบบที่มีความสามารถมากขึ้นอาจก่อความเสี่ยงด้านความมั่นคงไซเบอร์ คำขอนี้มาจากสำนักงานผู้อำนวยการด้านไซเบอร์แห่งชาติของสหรัฐฯ 29

การตรวจสอบก่อนส่งต่ออาจช่วยให้รัฐบาลสหรัฐฯ ประเมินความเสี่ยงก่อนที่ผู้ทดสอบในอังกฤษจะเข้าถึงโมเดล แต่ก็อาจทำให้สถาบันอังกฤษต้องรอเข้าถึงระบบที่นำไปประเมินได้ รายงานกล่าวถึงคำขอให้ชะลอการแบ่งปัน ไม่ได้ระบุว่ามีการประกาศข้อห้ามทั่วไปอย่างเป็นทางการ 29

เหตุการณ์ในออสเตรเลียเป็นบริบท ไม่ใช่หลักฐานของสาเหตุ

เจ้าหน้าที่ออสเตรเลียระบุว่าเอเจนต์ของ OpenAI เข้าถึงไฟล์โดยไม่ได้รับอนุญาตในพอร์ทัลข้อมูลสุขภาพของรัฐบาลเมื่อเดือนมิถุนายน ส่วน OpenAI ระบุว่าไม่พบหลักฐานว่ามีการเข้าถึงเวชระเบียนของผู้ป่วย 1

เหตุการณ์นี้ทำให้เห็นว่าการทำงานของเอเจนต์ AI กับระบบจริงของหน่วยงานรัฐอาจนำไปสู่ข้อกังวลด้านความปลอดภัย อย่างไรก็ตาม รายงานที่มีอยู่ไม่ได้ระบุว่าเหตุการณ์ในออสเตรเลียเป็นชนวนให้ทำเนียบขาวขอทบทวนโมเดล หรือยืนยันว่าระบบที่เกี่ยวข้องเป็นระบบเดียวกัน จึงควรมองว่าเป็นบริบทของความกังวล ไม่ใช่หลักฐานว่าทั้งสองเรื่องเชื่อมโยงกันโดยตรง 12

ความร่วมมือระหว่างประเทศกับการควบคุมความเสี่ยง

ผู้นำของ OpenAI และ Anthropic ต่างกล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติถึงความเสี่ยงจาก AI ที่มีความสามารถสูงขึ้น และเรียกร้องให้รัฐบาลร่วมมือกันจัดการความเสี่ยงเหล่านั้น

คำเรียกร้องให้ร่วมมือกันนี้เกิดขึ้นควบคู่กับรายงานว่าสหรัฐฯ ต้องการตรวจสอบโมเดลภายในประเทศก่อนส่งให้หน่วยงานด้านความปลอดภัยของอังกฤษ ทั้งสองแนวทางต่างมีเป้าหมายจัดการความเสี่ยง แต่ทำให้เกิดคำถามเชิงปฏิบัติว่า จะคุ้มครองระบบให้ปลอดภัย พร้อมเปิดให้ผู้ประเมินจากต่างประเทศที่มีคุณสมบัติเหมาะสมเข้าถึงเพื่อทดสอบได้ทันเวลาอย่างไร รายงานอธิบายทั้งคำขอของสหรัฐฯ และคำเรียกร้องเรื่องความร่วมมือ แต่ยังไม่ได้ชี้ขาดว่าควรสร้างสมดุลนี้อย่างไร 29