ข้อตกลงสิงคโปร์–ไมโครซอฟท์ไม่ได้เปิดตัวโมเดล AI ใหม่ แต่กำลังวางระบบทดสอบและควบคุมความเสี่ยง

ข้อตกลงนี้กล่าวถึงการวิจัยและการพัฒนาวิธีประเมิน จึงยังไม่ใช่ประกาศการนำโมเดลใดโมเดลหนึ่งไปใช้งาน

2. แลกเปลี่ยนข้อมูลและแนวทางกำกับดูแล

ทั้งสองฝ่ายยังตั้งใจแลกเปลี่ยนข้อมูล แนวปฏิบัติที่ดี และกรอบธรรมาภิบาลด้าน AI เพื่อเชื่อมผลการทดสอบทางเทคนิคเข้ากับการตัดสินใจในโลกการใช้งานจริง เช่น จะทดสอบความเสี่ยงใด กำหนดเกณฑ์ผ่านอย่างไร ใครควรได้รับสิทธิ์เข้าถึงโมเดล และต้องดำเนินการอย่างไรเมื่อพบจุดอ่อนร้ายแรง

แนวทางนี้กว้างกว่าการจัดอันดับความสามารถของโมเดลเพียงอย่างเดียว โมเดลอาจทำคะแนนในเกณฑ์มาตรฐานได้ดี แต่ยังไม่เหมาะกับงานภาครัฐหรือโครงสร้างพื้นฐาน หากระบบสิทธิ์เข้าถึง การเฝ้าระวัง การเปิดเผยช่องโหว่ หรือการกำกับโดยมนุษย์ยังไม่เพียงพอ

3. นโยบายสำหรับการเข้าถึงโมเดลอย่างไว้วางใจได้

อีกด้านหนึ่งคือการศึกษานโยบายสำหรับ “Trusted Access” หรือการเปิดให้เข้าถึงโมเดล Frontier AI ภายใต้เงื่อนไขที่เหมาะสมกับความสามารถและความเสี่ยงของระบบ

แนวคิดนี้ไม่ใช่การเปิดหรือปิดทั้งหมด แต่เป็นการควบคุมการเข้าถึงเป็นชั้น ๆ กล่าวคือ ระบบที่มีความสามารถสูงควรเปิดให้ผู้มีสิทธิ์ใช้งานเพื่อการทดสอบและงานที่เป็นประโยชน์ได้ ขณะเดียวกันก็ต้องมีมาตรการป้องกันไม่ให้ถูกนำไปใช้โดยไม่มีการคัดกรองหรือการกำกับดูแล

ดังนั้น MOU จึงสะท้อนห่วงโซ่ความปลอดภัยของ AI ที่ประกอบด้วยการทดสอบ การแบ่งปันบทเรียน การจำกัดสิทธิ์ และการกำหนดความรับผิดชอบผ่านนโยบาย

Claude Mythos เกี่ยวข้องอย่างไร แต่ยังไม่มีหลักฐานว่าเป็นต้นเหตุของ MOU

Claude Mythos Preview ของ Anthropic เป็นตัวอย่างที่ทำให้เห็นปัญหา “การใช้งานได้สองทาง” หรือ dual-use ของ Frontier AI อย่างชัดเจน Anthropic ระบุว่า บริษัทและพันธมิตรราว 50 รายในโครงการ Project Glasswing ใช้โมเดลที่จำกัดการเข้าถึงนี้ค้นพบช่องโหว่ระดับสูงหรือวิกฤตมากกว่า 10,000 รายการในซอฟต์แวร์ที่มีความสำคัญต่อระบบต่าง ๆ

Anthropic ยังรายงานว่า Mythos สามารถระบุและใช้ประโยชน์จากช่องโหว่ รวมถึงช่องโหว่แบบ zero-day ในระบบปฏิบัติการและเว็บเบราว์เซอร์รายใหญ่ได้

ความสามารถดังกล่าวอาจช่วยฝ่ายป้องกันให้ค้นพบและแก้ไขจุดอ่อนก่อนที่ผู้โจมตีจะพบ แต่ในอีกด้านหนึ่งก็อาจลดระยะเวลาจากการค้นพบช่องโหว่ไปสู่การโจมตี หากโมเดลถูกเผยแพร่ในวงกว้างหรือควบคุมไม่รัดกุม ด้วยเหตุนี้ Anthropic จึงให้เข้าถึง Mythos ผ่าน Project Glasswing แบบจำกัด แทนการเปิดให้สาธารณะใช้งาน

อย่างไรก็ตาม หลักฐานที่มีอยู่ ยังไม่ยืนยันว่า Claude Mythos เป็นสาเหตุหรือแรงกระตุ้นโดยตรงของ MOU สิงคโปร์–Microsoft วันที่ 12 มิถุนายน Mythos จึงควรถูกมองเป็นตัวอย่างของสภาพแวดล้อมความเสี่ยงที่เปลี่ยนแปลงรวดเร็ว ซึ่งทำให้การประเมินอย่างเป็นระบบ การควบคุมการเข้าถึง และกรอบธรรมาภิบาลมีความสำคัญมากขึ้น

มาตรการความปลอดภัยสะท้อนออกมาในทางปฏิบัติอย่างไร

การจำกัดสิทธิ์เข้าถึงคือมาตรการลดความเสี่ยง

การให้เฉพาะพันธมิตรที่กำหนดไว้เข้าถึง Mythos ผ่าน Project Glasswing ถือเป็นมาตรการควบคุมความเสี่ยง Anthropic เปิดให้กลุ่มพันธมิตรใช้โมเดลเพื่อการป้องกัน แทนที่จะปล่อยโมเดลที่มีความสามารถสูงเช่นนี้สู่สาธารณะโดยตรง

แนวทางดังกล่าวช่วยลดการเปิดรับความเสี่ยง ขณะเดียวกันก็เปิดโอกาสให้ทีมความปลอดภัยศึกษาความสามารถของระบบได้ แต่การจำกัดสิทธิ์เพียงอย่างเดียวไม่ใช่ระบบความปลอดภัยที่สมบูรณ์ ยังต้องอาศัยการคัดกรองผู้ใช้ การเฝ้าระวัง การจัดเก็บอย่างปลอดภัย และกระบวนการเปิดเผยช่องโหว่อย่างรับผิดชอบ

หลักการนี้สอดคล้องกับแนวคิด Trusted Access ใน MOU นั่นคือ สิทธิ์เข้าถึงควรสัมพันธ์กับความสามารถและความเสี่ยงของโมเดล ไม่ควรปฏิบัติต่อ Frontier AI ทุกระบบเหมือนซอฟต์แวร์ทั่วไปที่ปล่อยให้ดาวน์โหลดได้โดยไม่มีเงื่อนไข

ค้นพบช่องโหว่แล้วต้องตามด้วยการแก้ไข

การพบช่องโหว่เป็นเพียงจุดเริ่มต้น สิงคโปร์ได้แนะนำให้องค์กรเร่งติดตั้งแพตช์สำหรับช่องโหว่ระดับวิกฤตและระดับสูง เปิดใช้การยืนยันตัวตนหลายปัจจัย หรือ MFA ในอินเทอร์เฟซและเกตเวย์ต่าง ๆ และทบทวนสิทธิ์ผู้ใช้เพื่อลบสิทธิ์ที่ไม่จำเป็น

มาตรการเหล่านี้ช่วยลดโอกาสที่ผู้โจมตีจะใช้จุดอ่อนระหว่างที่องค์กรกำลังตรวจสอบและแก้ไขระบบ

แต่ยังไม่ควรสรุปว่าช่องโหว่ราว 10,000 รายการที่ Mythos พบได้รับการแก้ไขไปแล้วเป็นส่วนใหญ่ การประเมินภายหลังฉบับหนึ่งระบุว่ามีการแจ้งช่องโหว่ต่อผู้ดูแลซอฟต์แวร์ 1,596 รายการ แต่มีเพียง 97 รายการที่ถูกแก้ไขแล้ว ตัวเลขนี้ไม่ได้หมายความว่าโครงการไม่มีประโยชน์ด้านการป้องกัน เพียงแต่ทำให้ควรระมัดระวังต่อคำกล่าวอ้างว่า “ช่องโหว่จำนวนมาก” ได้รับการแก้ไขแล้ว

บทเรียนจึงไม่ได้มีแค่เรื่องความสามารถของ AI แต่รวมถึงกระบวนการปฏิบัติงานด้วย ตั้งแต่การระบุความเสี่ยง การแจ้งเตือนอย่างรับผิดชอบ การจัดลำดับความสำคัญของการซ่อมแซม ไปจนถึงการลดการเปิดรับความเสี่ยงระหว่างที่การแก้ไขยังไม่เสร็จสมบูรณ์

บทบาทของ Microsoft และสิ่งที่ MOU ยังไม่ได้ยืนยัน

Microsoft นำประสบการณ์ด้านการพัฒนาโมเดล Frontier AI โครงสร้างพื้นฐานระดับองค์กร และการประเมินรวมถึงการควบคุมสิทธิ์เข้าถึงระบบ AI มาสู่ความร่วมมือครั้งนี้ อย่างไรก็ตาม ขอบเขตที่ระบุไว้ของ MOU กว้างกว่าโมเดลใดโมเดลหนึ่งของ Microsoft โดยครอบคลุมแนวทางด้านความปลอดภัยและ Trusted Access สำหรับ Frontier AI โดยทั่วไป

หลักฐานที่มีอยู่ยังไม่รองรับการนำรายละเอียดต่อไปนี้ไปกล่าวว่าเป็นข้อผูกพันอย่างเป็นทางการภายใต้ MOU ฉบับนี้ ได้แก่ โมเดล MAI ของ Microsoft การเข้าถึงโมเดลของ OpenAI และ Anthropic ผ่าน Azure AI Foundry หรือข้อตกลงในลักษณะเทียบเคียงกับ UK AI Security Institute และ US Centre for AI Standards and Innovation

เป้าหมายใหญ่คือระบบนิเวศ AI ที่ไว้วางใจได้

เมื่อพิจารณารวมกัน องค์ประกอบของข้อตกลงกลายเป็นห่วงโซ่ความปลอดภัยที่มีลำดับชัดเจน

1. ประเมิน ระบบ AI ขั้นสูงและ AI แบบเอเจนต์ รวมถึงพฤติกรรมเมื่อทำงานในหลายภาษา
2. แลกเปลี่ยน ผลการทดสอบ แนวปฏิบัติด้านธรรมาภิบาล และบทเรียนจากการใช้งานจริง
3. ควบคุมการเข้าถึง โมเดลที่มีความสามารถสูงและสร้างความเสี่ยงเพิ่มขึ้น
4. รับมือ ด้วยการเปิดเผยช่องโหว่ การติดตั้งแพตช์ MFA และการควบคุมสิทธิ์
5. กำหนดนโยบาย ว่าระบบ Frontier AI ควรถูกนำไปใช้เมื่อใดและอย่างไรในบริบทที่มีความอ่อนไหว

นี่คือความสำคัญของ MOU ฉบับนี้ ข้อตกลงไม่ได้ทำให้ Frontier AI ปลอดภัยได้ด้วยตัวเอง และไม่ได้ลบล้างความเสี่ยงที่ Claude Mythos แสดงให้เห็น แต่กำลังเชื่อมการทดสอบทางเทคนิคเข้ากับการกำกับสิทธิ์เข้าถึงและแนวปฏิบัติด้านความมั่นคงปลอดภัยไซเบอร์ เพื่อให้ AI ขั้นสูงมีความปลอดภัย เชื่อถือได้ และตรวจสอบความรับผิดชอบได้มากขึ้น ก่อนที่ความสามารถของโมเดลจะถูกเข้าใจผิดว่าเท่ากับความพร้อมสำหรับการใช้งานจริง