คำตอบเผยแพร่แล้ว23 แหล่งที่มา
METR และ Redwood พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI
การทดสอบระหว่างวันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI รวมถึงช่องทางที่อาจซ่อนการกระทำล่าสุดได้หลายร้อยรายการ ตัวเลข 75%–94% เป็นค่าประมาณของปริมาณการใช้งานที่เข้าเกณฑ์ให้เฝ้าระวัง ไม่ได้ยืนยันว่ามีการตรวจสอบทุกกิจกรรมหรือจับปัญหาได้ทั้งหมด รายงานฉบับเต็ม 61 หน้าแชร์ให้ Ope...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- การทดสอบระหว่างวันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI รวมถึงช่องทางที่อาจซ่อนการกระทำล่าสุดได้หลายร้อยรายการ
- ตัวเลข 75%–94% เป็นค่าประมาณของปริมาณการใช้งานที่เข้าเกณฑ์ให้เฝ้าระวัง ไม่ได้ยืนยันว่ามีการตรวจสอบทุกกิจกรรมหรือจับปัญหาได้ทั้งหมด
- รายงานฉบับเต็ม 61 หน้าแชร์ให้ OpenAI เป็นการภายใน ส่วนการประเมินครอบคลุมระบบ ณ จุดเริ่มต้นของโครงการ ไม่ได้ตรวจสอบการเปลี่ยนแปลงภายหลัง
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did METR and Redwood Research’s July 21–August 11 pilot review of OpenAI’s internal AI-agent misalignment monitoring reveal, including. Article summary: The July 21–August 11, 2026 pilot found real gaps and evasion vulnerabilities in OpenAI’s internal AI-agent monitoring, including an exploit that could conceal hundreds of actions; OpenAI said all identified vulnerabilit. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
การทดสอบนำร่องเป็นเวลา 3 สัปดาห์ของ METR และ Redwood Research พบจุดอ่อนที่นำไปใช้ได้จริงในระบบภายในของ OpenAI ซึ่งใช้เฝ้าระวังพฤติกรรมไม่สอดคล้องของ AI Agent หนึ่งในช่องโหว่ที่รายงานคือวิธีที่อาจทำให้ระบบมองไม่เห็นการกระทำล่าสุดของเอเจนต์ได้หลายร้อยรายการ นอกจากนี้ยังพบช่องว่างที่เกี่ยวข้องกับเหตุการณ์ compaction ด้วย OpenAI ระบุว่าได้แก้ไขช่องโหว่ที่กระทบมาตรการป้องกันในระบบใช้งานจริงแล้ว แต่ผู้ประเมินไม่ได้กลับไปตรวจสอบการเปลี่ยนแปลงในภายหลังด้วยตนเอง 1
10
21
การทดสอบดำเนินการอย่างไร
ตั้งแต่วันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 นักวิจัยจากองค์กรไม่แสวงหากำไรทั้งสองแห่งเข้าไปทำงานที่ OpenAI เพื่อทดสอบความแข็งแกร่งของระบบเฝ้าระวังภายใน พวกเขาเข้าถึงซอร์สโค้ด เอกสาร และโครงสร้างพื้นฐานภายในบางส่วน รวมถึงพูดคุยกับเจ้าหน้าที่ด้านเทคนิค โดยใช้อุปกรณ์ที่ OpenAI จัดให้และอยู่ภายในสถานที่ของบริษัทตลอดการทำงาน 2
5
7
การทดสอบมุ่งดูทั้งขอบเขตที่ระบบครอบคลุม และความเป็นไปได้ที่เอเจนต์จะปิดหรือหลบเลี่ยงการเฝ้าระวัง METR ระบุว่าผลการประเมินอยู่ในรายงานภายใน 61 หน้า ซึ่งแบ่งปันกับนักวิจัยและเจ้าหน้าที่ความปลอดภัยของ OpenAI ส่วนข้อมูลสาธารณะเป็นเพียงสรุปภาพรวม ไม่ใช่รายงานฉบับเต็ม 7
17
ผู้ประเมินพบอะไรบ้าง
การเฝ้าระวังไม่ได้ครอบคลุมกิจกรรมทั้งหมด
METR ประเมินว่า 75%–94% ของการใช้งาน Responses API ภายในที่เป็นลักษณะ AI Agent จากโมเดลที่มีความสามารถอย่างน้อยเทียบเท่า GPT-5.5 เข้าเกณฑ์ที่จะถูกเฝ้าระวัง ตัวเลขนี้เป็นค่าประมาณเรื่องการเข้าเกณฑ์ ไม่ได้หมายความว่ากิจกรรมที่เข้าเกณฑ์ทั้งหมดถูกตรวจสอบจริง หรือระบบจะตรวจพบปัญหาได้ทุกครั้ง 1
6
18
การประเมินยังระบุด้วยว่า ในช่วงเริ่มต้นของโครงการ ระบบยังไม่ได้เฝ้าระวังการทำงานของโมเดลระหว่างการฝึกแบบ reinforcement learning เพื่อค้นหาพฤติกรรมไม่สอดคล้อง 22
เอเจนต์อาจมีช่องทางหลบเลี่ยงระบบ
สรุปผลที่เผยแพร่กล่าวถึงจุดอ่อนหลายประเภท เช่น ความเป็นไปได้ที่จะเลี่ยง sandbox ของ Codex การใช้เฮดเดอร์ที่ควบคุมโดยไคลเอนต์เพื่อปิดการเฝ้าระวังสำหรับเอเจนต์ที่สร้างขึ้นใหม่ และช่องโหว่ที่อาจซ่อนการกระทำล่าสุดจากระบบได้หลายร้อยรายการ อย่างไรก็ตาม ข้อมูลสาธารณะไม่ได้เปิดเผยรายละเอียดทางเทคนิคมากพอที่จะถือว่าเป็นรายการผลการค้นพบทั้งหมด 1
3
เหตุการณ์ compaction ทำให้เกิดช่องว่าง
METR ประเมินว่าเหตุการณ์ compaction ที่ระบบไม่ได้ติดตาม น่าจะทำให้การใช้งาน Codex ภายในที่เข้าเกณฑ์ราว 10% ไม่ถูกเฝ้าระวังในช่วงเดือนพฤษภาคมถึงกรกฎาคม 2026 พร้อมระบุว่าตัวเลขที่แน่นอนยังมีความไม่แน่นอนสูง รายงานเกี่ยวกับผลการประเมินระบุด้วยว่าเจ้าหน้าที่ OpenAI พบช่องว่างนี้ก่อนเริ่มโครงการ และแก้ไขระหว่างการทบทวน 10
ผลการประเมินยังยืนยันอะไรไม่ได้
การทดสอบตรวจสอบระบบตามสภาพ ณ จุดเริ่มต้นของโครงการ METR ระบุว่าไม่ได้ประเมินการเปลี่ยนแปลงที่เกิดขึ้นภายหลัง ดังนั้นผลการทดสอบจึงไม่สามารถยืนยันด้วยตัวเองได้ว่าระบบในปัจจุบันครอบคลุมเพียงใด หรือการแก้ไขทุกข้อได้ผลแล้ว 7
21
22
คำยืนยันของ OpenAI ว่าได้แก้ไขช่องโหว่ที่กระทบมาตรการป้องกันในระบบใช้งานจริงเป็นข้อมูลสำคัญ แต่ยังเป็นคำชี้แจงจากบริษัท ไม่ใช่การยืนยันอย่างเป็นอิสระว่าจุดอ่อนทั้งหมดได้รับการแก้ไขแล้ว 21
ทำไมการทดสอบนี้จึงสำคัญ
โครงการนี้เป็นตัวอย่างของการประเมินที่ให้ผู้ตรวจสอบภายนอกเข้าถึงระบบภายในในระดับลึก ต่อมา OpenAI ให้คำมั่นในเดือนกันยายนว่าจะเปิดทางให้ผู้ประเมินอิสระเข้าถึงบริษัทในระดับ “เหมือนพนักงาน” การทดลองของ METR และ Redwood แสดงให้เห็นว่าการประเมินลักษณะนี้อาจเกี่ยวข้องกับการเข้าถึงข้อมูลและระบบภายใน แต่ไม่ควรเข้าใจว่าเป็นการตรวจสอบสาธารณะแบบครบถ้วน 8
28
ข้อสรุปที่ชัดที่สุดคือ ผู้ประเมินที่เข้าไปทำงานภายในพบช่องว่างในการเฝ้าระวังและแนวทางที่เอเจนต์อาจใช้หลบเลี่ยงได้ ขณะที่ OpenAI ระบุว่าได้แก้ไขปัญหาที่กระทบระบบใช้งานจริงแล้ว แต่ข้อมูลสาธารณะยังไม่ตอบชัดว่าหลังจากนั้นระบบครอบคลุมแค่ไหน และมีใครตรวจสอบอย่างเป็นอิสระว่าการแก้ไขได้ผลจริงหรือไม่ 7
21
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "METR และ Redwood พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI" คืออะไร
การทดสอบระหว่างวันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI รวมถึงช่องทางที่อาจซ่อนการกระทำล่าสุดได้หลายร้อยรายการ
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
การทดสอบระหว่างวันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 พบช่องโหว่ในระบบเฝ้าระวัง AI Agent ของ OpenAI รวมถึงช่องทางที่อาจซ่อนการกระทำล่าสุดได้หลายร้อยรายการ ตัวเลข 75%–94% เป็นค่าประมาณของปริมาณการใช้งานที่เข้าเกณฑ์ให้เฝ้าระวัง ไม่ได้ยืนยันว่ามีการตรวจสอบทุกกิจกรรมหรือจับปัญหาได้ทั้งหมด
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
รายงานฉบับเต็ม 61 หน้าแชร์ให้ OpenAI เป็นการภายใน ส่วนการประเมินครอบคลุมระบบ ณ จุดเริ่มต้นของโครงการ ไม่ได้ตรวจสอบการเปลี่ยนแปลงภายหลัง