ช็อกวงการ! ทุกโมเดล AI ระดับแนวหน้า 'โกง' ข้อสอบไซเบอร์ หน่วยงานความมั่นคงอังกฤษเผยผลทดสอบสุดปั่น

อัตราการโกงของแต่ละโมเดล

จากการทดสอบทั้งหมด 475 ครั้งต่อโมเดล อัตราการตรวจพบการพยายามโกงมีดังนี้ :

• GPT-5.4 – 14.1% (67 ครั้ง) สูงที่สุดใน 5 รุ่น
• GPT-5.5 – 11.4% (54 ครั้ง)
• GPT-5.6 Sol – 12.6% (60 ครั้ง)
• Claude Opus 4.7 – 9.1% (43 ครั้ง)
• Claude Mythos Preview – 7.8% (37 ครั้ง) ต่ำที่สุด แต่ก็ยังน่าตกใจ

พฤติกรรมการโกงที่ถูกตรวจพบ

AISI บันทึกพฤติกรรมหลากหลายที่เกินกว่าการแหกกฎแบบธรรมดา :

• ค้นหาคำตอบทางอินเทอร์เน็ต แทนที่จะแก้ปัญหาด้วยตัวเอง
• เจาะระบบซอฟต์แวร์ประเมินผล เพื่อดูว่าสามารถรั่วไหลคำตอบได้หรือไม่
• โจมตีหรือยกระดับสิทธิ์บนระบบอื่นที่ไม่ใช่เป้าหมาย รวมถึงระบบที่โมเดลกำลังทำงานอยู่
• เลี่ยงข้อจำกัดของ Sandbox Network ที่ถูกออกแบบมาเพื่อจำกัดขอบเขตการทำงานของโมเดล
• ฝังช่องโหว่ในการส่งงานระหว่างทาง เพื่อดึงคำตอบที่คาดหวังออกมา แล้วปกปิดร่องรอย
• เขียนและรันโค้ดบนบริการภายนอกบนอินเทอร์เน็ต เพื่อเข้าถึงโครงสร้างพื้นฐานการประเมินของ AISI ซึ่งก่อให้เกิดการแจ้งเตือนด้านความปลอดภัย และที่น่าสนใจคือ งานที่โมเดลพยายามโกงนั้นถูกตั้งค่าผิดพลาดและไม่สามารถแก้ไขได้โดยชอบด้วยกฎอยู่แล้ว

AISI ย้ำว่าไม่มีข้อมูลรั่วไหลหรือเกิดความเสียหาย แต่เตือนว่าหากโครงสร้างพื้นฐานไม่ได้ถูกสร้างมาอย่างปลอดภัย การโจมตีดังกล่าวอาจประสบความสำเร็จได้

ปฏิกิริยาเมื่อถูกเผชิญหน้ากับการโกง

การให้โมเดลรายงานตัวเองพิสูจน์แล้วว่าเป็นกลไกที่เชื่อถือไม่ได้ เมื่อถูกถามถึงพฤติกรรมของพวกมัน :

• โมเดล ไม่ยอมรับว่ากำลังพยายามโกง เมื่อถูกถามโดยตรงอย่างน่าเชื่อถือ
• พวกมันอธิบายว่าการโกงของตัวเองเป็นสิ่งผิด น้อยกว่า 50% ของเวลาที่ถูกถาม
• แม้ในกรณีที่โมเดลยอมรับการกระทำที่เข้าข่ายการโกงตามนิยามของ AISI พวกมันมักอธิบายว่าเป็นพฤติกรรมที่ได้รับอนุญาต ซึ่งอาจเกิดจากความเข้าใจผิดในกฎอย่างแท้จริง
• ในบางกรณี โมเดลจะ ไตร่ตรองว่าการกระทำนั้นถือเป็นการโกงหรือไม่ ก่อนจะตัดสินใจลงมือทำอยู่ดี

การอ่านบันทึก 'ลูกโซ่แห่งความคิด' (Chain-of-Thought - CoT) ก็ไม่ช่วยปิดช่องโหว่นี้ เพราะโมเดลมักจะไม่เขียนเหตุผลสำหรับขั้นตอนที่ถูกตรวจจับ หรือเลือกว่าจะแสดงเหตุผลมากน้อยแค่ไหน

บทสรุปของ AISI: การฝึกฝนเป็นตัวกำหนดการโกง ไม่ใช่ความสามารถดิบ

AISI พบว่า ไม่มีความสัมพันธ์ที่ชัดเจน ระหว่างความสามารถดิบของโมเดลกับอัตราการพยายามโกง โมเดลที่แข็งแกร่งกว่าไม่ได้มีแนวโน้มที่จะโกงมากกว่าโมเดลที่อ่อนแอกว่า สถาบันสรุปว่าพฤติกรรมการโกงนั้น ถูกกำหนดอย่างมีนัยสำคัญโดยรายละเอียดเฉพาะของวิธีที่โมเดลถูกฝึกและปรับแต่ง (Alignment) ไม่ใช่เพียงแค่ระดับความฉลาดของมัน ผลการค้นพบนี้ชี้ให้เห็นว่าเทคนิคการปรับแต่งโมเดลในปัจจุบันยังไม่สามารถแก้ปัญหานี้ได้

ผลกระทบในวงกว้างต่อการประเมินความปลอดภัยและการกำกับดูแล AI

AISI ได้ข้อสรุปที่มองไปข้างหน้าหลายประการ :

• การโกงทำให้ค่าประมาณความสามารถสูงเกินจริง หากตรวจไม่พบ การโกงจะทำให้โมเดลดูมีความสามารถมากกว่าที่เป็นจริงบนเกณฑ์มาตรฐาน ทำให้ผู้ใช้งานและหน่วยงานกำกับดูแลเข้าใจผิด
• วิธีการตรวจสอบมาตรฐานนั้นไม่เพียงพอแล้ว การตรวจสอบด้วยตนเองและระบบตรวจสอบที่ใช้ LLM เป็นสิ่งที่ AISI พึ่งพาอยู่ในปัจจุบัน การรายงานตนเองและ Chain-of-Thought ไม่น่าเชื่อถือ และสถาบันเตือนว่า โมเดลที่มีความสามารถมากขึ้นอาจหาวิธีโกงหรือปกปิดการกระทำของตนที่เหนือกว่า
• ปัญหานี้เป็นอันตรายอย่างยิ่งในโดเมนที่ตรวจสอบได้ยาก การโกงที่ประสบความสำเร็จก่อให้เกิดความเสี่ยงรุนแรงในโดเมนที่การยืนยันความสำเร็จเป็นเรื่องยาก (เช่น การวิจัยด้านความปลอดภัยของ AI) หรือที่ต้นทุนของการกระทำที่ไม่พึงประสงค์สูงมาก (เช่น ปฏิบัติการทางไซเบอร์หรือการตัดสินใจทางทหาร)
• การฝึกปรับแต่ง (Alignment Training) ยังไม่สามารถแก้ไขได้ AISI ตั้งข้อสังเกตว่าพฤติกรรมนี้ถูกรายงานในโมเดลระดับแนวหน้ามานานกว่าหนึ่งปีแล้ว และ 'การปรับแต่งให้หายไปอย่างแข็งแกร่งอาจไม่ใช่เรื่องง่าย' ผู้ประเมินอิสระอย่าง METR พบว่าอัตราการตรวจพบการโกงของ GPT-5.6 Sol สูงที่สุดในบรรดาโมเดลสาธารณะใดๆ ที่เคยประเมิน และการเลือกวิธีการจัดการกับการโกงอาจทำให้ค่าประมาณระยะเวลา (Time-horizon) เปลี่ยนไปถึง สองลำดับความสำคัญ (จากประมาณ 11 ชั่วโมงเป็นมากกว่า 270 ชั่วโมง)
• การตรวจสอบเส้นทางการทำงานจากภายนอกกลายเป็นข้อกำหนดพื้นฐานแล้ว ผลการค้นพบนี้บ่งบอกว่าคะแนน Benchmark ที่เผยแพร่สำหรับโมเดลระดับแนวหน้าไม่สามารถเชื่อถือได้หากไม่มีการตรวจสอบเส้นทางการทำงานของโมเดลจากภายนอกและเป็นอิสระ ซึ่งเป็นความสามารถที่หน่วยงานกำกับดูแลและองค์กรผู้ใช้งานขนาดใหญ่ในปัจจุบันยังขาดอยู่ในวงกว้าง