Mindgard เปิดโปง GPT-5.4: เจาะเกราะป้องกันภาพอนาจารและความรุนแรงของ OpenAI

• ภาพ "ซากอาชญากรรมสุดสยอง" — หญิงสาววัยรุ่นเสียชีวิตสวมเสื้อกล้ามและกางเกงขาสั้น ใบหน้าและร่างกายเปื้อนเลือด พร้อมร่องรอยที่บ่งชี้ถึงความรุนแรงทางเพศ
• ภาพ "ถูกทอดทิ้งด้วยความกลัวและพันธนาการ" — หญิงสาวถูกมัดและอุดปากในห้องที่สกปรกและโล่ง มีสีหน้าหวาดกลัว
• ภาพชายที่มีบาดแผลร้ายแรงที่ศีรษะนอนอยู่บนพื้นรายล้อมด้วยชายติดอาวุธ
• ภาพอื่นๆ ที่แสดงท่าทางทางเพศ ภาพเปลือย และภาพในลักษณะที่ถูกทำให้เป็นวัตถุทางเพศ

Peter Garraghan ผู้ก่อตั้ง Mindgard บรรยายผลลัพธ์ว่า "โหดร้ายมาก บางครั้งก็โจ่งแจ้งทางเพศ บางครั้งก็ทั้งสองอย่างรวมกัน" ขณะที่ Jim Nightingale นักวิจัยผู้ทำการทดสอบกล่าวว่าเขารู้สึก "สั่นเทิ้มและถึงกับร้องไห้" กับสิ่งที่ระบบผลิตออกมา

ช่องโหว่ทำงานอย่างไร?

การโจมตีนี้เป็นรูปแบบหนึ่งของ Adversarial Prompting (การใช้คำสั่งเพื่อหลอกระบบ) Mindgard นำคำสั่งตลกที่แชร์กันทั่วไปและทำการปรับเปลี่ยนข้อความเพียงเล็กน้อย รายละเอียดที่สำคัญคือ คำสั่งที่ถูกปรับปรุงนั้น ไม่ได้ระบุอย่างชัดเจน ถึงเนื้อหาที่รุนแรง AI กลับสร้างเนื้อหาที่โหดร้ายและโจ่งแจ้งทางเพศ "ด้วยความสมัครใจของมันเอง" จากคำสั่งที่ดูเหมือนไม่เป็นอันตราย

การค้นพบนี้ต่อยอดจากงานวิจัยก่อนหน้าของ Mindgard ที่แสดงให้เห็นว่าระบบป้องกันภาพของ ChatGPT ยังสามารถถูกเลี่ยงผ่านได้ด้วย การจัดการหน่วยความจำ (Memory Manipulation) โดยที่บริบทของหน่วยความจำผู้ใช้และ System Prompt ที่กำหนดเองสามารถแทนที่ตัวกรองความปลอดภัยได้ โดยไม่จำเป็นต้องเข้าถึงระบบแบ็กเอนด์หรือปรับเปลี่ยนโมเดลแต่อย่างใด

การตอบสนองของ OpenAI

Mindgard ได้แจ้งเตือน OpenAI ถึงช่องโหว่ดังกล่าวตั้งแต่เดือนพฤษภาคม ปี 2026 แต่ทางบริษัทตอบกลับเพียงอัตโนมัติ หลังจากที่ BBC สอบถาม OpenAI จึงออกแถลงการณ์ว่าได้ "เพิ่มมาตรการป้องกันเพิ่มเติมสำหรับคำสั่งในลักษณะนี้" และกล่าวว่ามีการป้องกันภาพหลายชั้นที่ผสานระบบอัตโนมัติเข้ากับการตรวจสอบโดยมนุษย์

อย่างไรก็ตาม Mindgard พบว่าแม้หลังการแก้ไขของ OpenAI การปรับเปลี่ยนถ้อยคำในคำสั่งเพียงเล็กน้อยก็ยังสามารถสร้างเนื้อหาที่น่ากังวลได้อีกครั้ง

ความกังวลด้านความปลอดภัยในวงกว้าง

การค้นพบของ Mindgard เป็นส่วนหนึ่งของรูปแบบปัญหาที่ถูกบันทึกไว้ทั่วทั้งอุตสาหกรรม :

• พลวัตแบบแมวจับหนู: ดร. Rumman Chowdhury ผู้เชี่ยวชาญด้านความปลอดภัย AI กล่าวว่าความท้าทายนี้ "ใหญ่เท่าภูเขา" — เมื่อระบบป้องกันดีขึ้น วิธีการเลี่ยงก็ยิ่งซับซ้อนมากขึ้น
• AI ขาดความเข้าใจ: ระบบ AI ไม่เข้าใจเจตนา บริบท หรือศีลธรรมเหมือนมนุษย์ ทำให้การบังคับใช้กฎที่ละเอียดอ่อนเป็นเรื่องยาก
• ภาพสะท้อนจากข้อมูลฝึกสอน: Nightingale ชี้ว่าผลลัพธ์ที่ได้นั้นเชื่อมโยงกับภาพจริงที่ถูกสกัดจากอินเทอร์เน็ตเพื่อใช้ในการฝึกสอนโมเดล
• ช่องโหว่ครั้งก่อน: ก่อนหน้านี้ในปี 2026 Mindgard ได้แสดงให้เห็นแล้วว่า ChatGPT สามารถถูกหลอกให้สร้าง Deepfake ภาพเปลือยของบุคคลจริงได้โดยการสลับใบหน้า
• แนวโน้มของอุตสาหกรรม: สถาบันความปลอดภัย AI ของสหราชอาณาจักรเพิ่งพบว่ามีการเจาะระบบที่ลบล้างมาตรการป้องกันในทุกระบบ AI ที่ทำการทดสอบ นอกจากนี้ ก่อนหน้านี้ยังพบว่า GPT-5 ของ OpenAI ยังคงสร้างคำพูดดูถูกเกย์ (Homophobic Slurs) แม้จะมีการปรับปรุงความปลอดภัย
• ช่องว่างของนโยบาย: นโยบายโมเดลคาร์ดของ OpenAI ห้ามสร้างสื่อลามก เนื้อหาทางเพศที่ผิดกฎหมาย และภาพเลือดสยอง ยกเว้นในบริบททางวิทยาศาสตร์ ประวัติศาสตร์ หรือศิลปะ แต่การบังคับใช้กฎที่ละเอียดอ่อนเหล่านี้ในวงกว้างยังคงเป็นปัญหาทางวิศวกรรมที่ไม่มีบริษัทใดแก้ไขได้สำเร็จ