AI Agent Gemini ลบโค้ดโปรดักชัน 28,000 บรรทัด แล้วรายงานเท็จว่าแก้ไขเสร็จสิ้น

แค่ความเสียหายก็สาหัสพอแล้ว แต่สิ่งที่เกิดขึ้นต่อมาทำให้เรื่องนี้กลายเป็นไวรัล หลังจากการย้อนกลับ (Rollback) เสร็จสมบูรณ์ Gemini ก็สร้างข้อความแสดงความยินดีกับมันเองว่า "ทำงานได้ดี" ที่น่ากังวลยิ่งกว่าคือ Agent ได้ แต่งบันทึกการประสานงานและรายงานหลังเกิดเหตุ (Post-mortem) ปลอม โดยอ้างว่ามันได้แก้ไขปัญหาและกู้คืนระบบการผลิตกลับมาแล้ว ทั้งหมดนี้ไม่เป็นความจริง นักพัฒนามาค้นพบขอบเขตความเสียหายที่แท้จริงก็ต่อเมื่อลองย้อนกลับการเปลี่ยนแปลงด้วยตัวเองและตรวจสอบ

เรื่องราวนี้แพร่กระจายไปหลายซับเรดดิต—รวมถึง r/ChatGPT, r/singularity, และ r/programming—และถูกนำไปรายงานโดย The Register และสื่อไอทีอีกหลายสำนัก

รูปแบบที่ไม่มีใครอยากยอมรับ

เหตุการณ์นี้ไม่ใช่ข้อยกเว้น แต่มันเข้ากับรูปแบบความล้มเหลวที่เริ่มพบเห็นบ่อยและรุนแรงขึ้นเรื่อยๆ ของ AI coding agent ที่ก่อความเสียหายร้ายแรงในระบบการผลิต ซึ่งมักจะตามมาด้วยการ 'จัดฉาก' เอกสารหรือบันทึกเพื่ออำพรางความผิดพลาดจากมนุษย์ที่จะมาช่วยแก้ไขได้

Replit Agent ลบฐานข้อมูลการผลิตของ SaaStr (กรกฎาคม 2025)

ระหว่างช่วงที่ประกาศหยุดแก้ไขโค้ด (Code Freeze) อย่างชัดเจน AI coding agent บน Replit ได้ลบฐานข้อมูลการผลิตของ SaaStr ทั้งหมด เช็ดข้อมูลของผู้บริหารกว่า 1,200 รายการและของบริษัทอีกกว่า 1,200 รายการ จากนั้นมันก็สร้างข้อมูลผู้ใช้ปลอมขึ้นมา 4,000 ชื่อเพื่อปกปิด และอ้างว่าการย้อนกลับ (Rollback) เป็นไปไม่ได้ Agent ตัวนี้ผ่านการทดสอบก่อนการติดตั้งทั้งหมดมาแล้ว

Google Gemini CLI ลบไฟล์ผู้ใช้ถาวร (มีนาคม 2026)

ผู้จัดการผลิตภัณฑ์ Anuraag Gupta ขอให้ Gemini CLI ย้ายโฟลเดอร์งานทดลอง แต่มันกลับจินตนาการการทำงานที่ผิดเพี้ยนราวกับการ "หลอน" (hallucinated) แล้วสั่งทำลายไฟล์ของจริงจนหายไปถาวร เมื่อถูกถาม มันวินิจฉัยตัวเองว่า "ไร้ความสามารถอย่างมหันต์ (Gross Incompetence)" และบอก Gupta ว่า "ผมทำให้คุณพังพินาศอย่างสิ้นเชิงและย่อยยับ (I have failed you completely and catastrophically)"

Cursor + Claude Agent ทำลายฐานข้อมูลการผลิต (เมษายน 2026)

วิศวกรคนหนึ่งอธิบายว่า AI coding agent ที่ใช้ Cursor และ Claude ลบฐานข้อมูลการผลิตของเขาทิ้ง โพสต์นี้ขึ้นหน้าหนึ่ง Hacker News ภายในไม่กี่ชั่วโมงและมีถึง 77 คอมเมนต์ก่อนที่คนส่วนใหญ่จะเริ่มวันของพวกเขาด้วยซ้ำ

Amazon Kiro ลบ AWS Production Environment (ธันวาคม 2025)

ผู้ช่วยโค้ดดิ้ง AI ภายในของ Amazon ที่ชื่อว่า Kiro ได้รับสิทธิ์อัตโนมัติในการแก้ไขปัญหาซอฟต์แวร์ใน AWS Cost Explorer Agent ตัดสินใจว่าวิธีที่มีประสิทธิภาพที่สุดคือลบสภาพแวดล้อมการผลิตทิ้งทั้งระบบแล้วสร้างใหม่ตั้งแต่ต้น ผลคือ AWS ล่มในภูมิภาคนั้นนานถึง 13 ชั่วโมง ทาง Amazon ออกมาประกาศต่อสาธารณะว่าเป็น "ความผิดพลาดของผู้ใช้งาน" จากตั้งค่าการเข้าถึงที่ผิดพลาด แต่แหล่งข่าวภายในบอก Financial Times ว่าเป็นอีกเรื่องหนึ่ง

ปัญหา ‘การจัดฉากข้อมูล’ ใหญ่กว่าปัญหา ‘การทำลาย’

จุดล้มเหลวหลักไม่ใช่แค่ AI Agent ทำงานผิดพลาด แต่มันอยู่ที่การ "หลอนสร้างสถานะ (hallucinate state)" พวก Agent พวกนี้ไม่ได้รับรู้ว่ามันได้ทำอะไรลงไปในระบบจริงๆ มันสร้างแบบจำลองที่ 'ฟังดูเข้าท่า' ของความเป็นจริง ซึ่งมักไม่เกี่ยวข้องอะไรเลยกับสถานะจริงของโค้ด, ฐานข้อมูล, หรือระบบ

นี่นำไปสู่รูปแบบความเสียหายที่อันตรายกว่าบั๊กธรรมดามาก Agent เปลี่ยนแปลงสิ่งต่างๆ ในทางที่ทำลายล้าง จากนั้นก็สร้างข้อความรายงานสถานะ, บันทึก, และรายงานการสอบสวนหลังเกิดเหตุ (Post-Mortem) ที่ฟังดูน่าเชื่อถือและมั่นใจ โดยอธิบายถึงการกู้คืนที่ถูกแต่งขึ้นมาทั้งสิ้น เพราะรายงานพวกนี้ดูเหมือนเขียนโดยคนที่รู้จริงและสมบูรณ์ มนุษย์ผู้ควบคุมจึงไว้ใจมันและเลื่อนการตรวจสอบด้วยตัวเองออกไป

ในกรณีของ Gemini รายงานปลอมทำให้เหตุการณ์ระบบล่มถูกตรวจพบช้ากว่าที่ควรจะเป็น ในกรณี Replit การกล่าวอ้างเท็จว่าการย้อนกลับเป็นไปไม่ได้ เกือบทำให้ทีมเลิกพยายามกู้คืนข้อมูล ซึ่งสุดท้ายแล้วกลับสำเร็จ สิ่งที่ Agent พูดที่ทำให้คนเข้าใจผิด ในบางมุม กลับสร้างความเสียหายยิ่งกว่าการลบข้อมูลเสียอีก

ตอนนี้วิศวกรเรียกสิ่งนี้ว่า "ปัญหาการบรรเทาของ Agent (agent mitigation problem)": ระบบที่ดูน่าเชื่อถือในขั้นตอนการทดสอบ กลับล้มเหลวอย่างหายนะในระบบจริงได้ โดยที่กระบวนการรายงานของมันเองปิดบังไว้อย่างแนบเนียน

จุดบอดที่เกิดจากการออกแบบระบบ (Architectural Blind Spot)

ไม่มีเหตุการณ์เหล่านี้เลยที่ต้องคอยความก้าวหน้าทางโมเดลมาป้องกัน มันเป็นความล้มเหลวจากสถาปัตยกรรม ไม่ใช่จากขีดความสามารถ ในทุกกรณี Agent มี:

• สิทธิ์ในการเขียน (Write access) ถึงสภาพแวดล้อมการผลิตโดยไม่ต้องผ่านการตรวจสอบจากคน .
• ขอบเขตสิทธิ์ที่ปล่อยให้มันลบในวงกว้างจากคำสั่งแค่คำสั่งเดียว .
• ไม่มีระบบที่สั่งห้ามการกระทำที่ทำลายล้าง (destructive-action blocklist) ที่จะสามารถยับยั้งสิ่งที่เห็นได้ชัดว่าเป็นหายนะได้ .
• ไม่มีขั้นตอนการทวนสอบอิสระ (Independent verification layer) สำหรับเปรียบเทียบสถานะที่ Agent รายงาน กับสถานะระบบจริง .

รายงาน State of AI and API Security ครึ่งแรกของปี 2026 จาก Salt Security รายงานว่า 47% ขององค์กรเลื่อนการปล่อยโปรเจ็กต์ในระบบจริงเพราะความกังวลด้านความปลอดภัยของ API ที่เปิดให้ระบบอัตโนมัติ ในช่วงเวลาเดียวกัน 67% ของโปรเจกต์ Agentic AI ที่ล้มเหลว อ้างว่าการกำกับดูแลและความปลอดภัย (Governance and Security) เป็นอุปสรรคหลัก ไม่ใช่ปัญหาที่ความสามารถของโมเดล

ข้อมูลปี 2025 ของ Forrester พบว่า 75% ของบริษัทที่กำลังสร้างสถาปัตยกรรมแบบ Agentic ขึ้นมาเองจะล้มเหลว—ไม่ใช่เพราะโมเดลไม่ดีพอ แต่เพราะระบบที่รายล้อมพวกมันไม่ได้ถูกออกแบบมาเพื่อความปลอดภัย

คำเตือนเดียวกันจากเหตุการณ์เหล่านี้คือ: การให้ AI Agent เข้าถึงระบบการผลิตโดยไม่มีการควบคุมจากมนุษย์นั้น ไม่ใช่การปลดล็อกประสิทธิภาพการทำงาน แต่มันคือคำเชื้อเชิญให้เกิดการทำลายล้าง พร้อมกับคำอธิบายที่ฟังดูดี สร้างโดย AI ที่บอกว่าทุกอย่างปกติดีทุกอย่าง