ทำไม Amazon ปฏิเสธ 'Human-in-the-Loop': ทางเลือกใหม่ด้วย 'Identity-First' คุม AI Agent

ทำไม Amazon ไม่ไว้ใจ Human-in-the-Loop

Brandwine อธิบายถึงข้อเสียของ HITL ผ่านสองประเด็นหลัก:

• ความไม่สม่ำเสมอของมนุษย์: มนุษย์เองก็ไม่แน่นอนและมีข้อผิดพลาดได้เช่นเดียวกับ AI Model "Human-in-the-loop ไม่ได้เป็นมาตรฐานทองคำอะไร" Brandwine กล่าว และเสริมว่า 'มนุษย์มักจะหวงแหนตัวเองนิดหน่อย'
• การชินชากับความเบี่ยงเบน: ยกตัวอย่างจากแผนกฉุกเฉินในโรงพยาบาล ที่พยาบาลและแพทย์จะเริ่มไม่ตอบสนองต่อสัญญาณเตือนหลังจากที่ได้ยินสัญญาณเตือนเท็จบ่อยครั้ง จนกระทั่งวิกฤตจริง ๆ มาถึง ความเคยชินทางจิตวิทยานี้เองที่ทำให้ HITL ไม่น่าเชื่อถือในระยะยาว

จุดยืนของ Amazon คือ: "เราไม่ใช่แฟนตัวยงของ Human-in-the-loop" Brandwine กล่าว พร้อมแนะนำให้ใช้ HITL 'อย่างจำเป็นเท่าที่จำเป็น' ไม่ใช่ใช้เป็นกลไกควบคุมหลัก

ทางเลือก 'Identity-First': รับผิดชอบแบบ End-to-End

ทางเลือกของ Amazon ไม่ได้หมายถึงการไม่ให้มนุษย์เกี่ยวข้องอีกต่อไป แต่เป็นการย้ายจุดควบคุมจากการให้มนุษย์อนุมัติทุกขั้นตอนไปสู่การควบคุมที่โครงสร้างพื้นฐาน โดยมีองค์ประกอบสำคัญ 4 ประการ:

1. ความรับผิดชอบแบบครบวงจร (Accountability end to end): ทุกการกระทำของ Agent ต้องโยงกลับไปยังตัวตนมนุษย์คนใดคนหนึ่งได้อย่างชัดเจน 'ถ้าผมนั่งลงที่คีย์บอร์ดแล้วพิมพ์คำสั่งที่ทำให้เซิร์ฟเวอร์ล่ม ผมคือต้นเหตุ' Brandwine อธิบาย 'ถ้าผมรันสคริปต์ที่ทำให้เซิร์ฟเวอร์ล่ม ก็ยังเป็นผม ถ้า AI Agent ของผมทำเซิร์ฟเวอร์ล่ม ก็ยังคงเป็นผมอยู่ดี'

2. ตัวตนที่ตรวจสอบได้และสิทธิ์ที่จำกัดขอบเขต: คำแนะนำอย่างเป็นทางการของ AWS ระบุว่า 'Agent แต่ละตัวต้องทำงานด้วยตัวตนที่ตรวจสอบได้ สิทธิ์ที่จำกัดขอบเขต และประวัติการทำงานที่ตรวจสอบย้อนกลับได้' และเรียกนี่ว่า 'ระบบควบคุมที่ยึดตัวตนเป็นหลัก' ซึ่งเป็น 'กระดูกสันหลังของความเชื่อมั่นในระบบอัตโนมัติ'

3. การควบคุมที่ระดับโครงสร้างพื้นฐาน: อาศัยกลไกพื้นฐานที่มีอยู่แล้ว เช่น AWS IAM สำหรับสิทธิ์ที่ละเอียด, Guardrails สำหรับขอบเขตการทำงาน, และการสังเกตการณ์ (observability) สำหรับเส้นทางการตรวจสอบที่สมบูรณ์ แทนที่จะใช้วงจรอนุมัติจากมนุษย์

4. แบบไดนามิก ไม่ใช่แค่เปิด-ปิด: ต่างจาก HITL ที่เป็นแบบ 'อนุมัติ/ปฏิเสธ' รูปแบบ Identity-first จะใช้การควบคุมแบบหลายระดับตามระดับความอิสระและขอบเขตการเข้าถึงของ Agent แต่ละตัว ซึ่งตรงกับคำวินิจฉัยของ Gartner ที่ว่าการกำกับดูแลแบบ 'ทั้งหมดหรือไม่มีเลย' เป็นสาเหตุหลักของความล้มเหลว

กรณีจริง: AI Agent 'Kiro' ของ Amazon

ข้อโต้แย้งทางทฤษฎีมีหลักฐานจากเหตุการณ์จริงราคาแพง

เกิดอะไรขึ้น

ในกลางเดือนธันวาคม 2025 AI Agent ภายในของ Amazon ที่ชื่อ 'Kiro' ซึ่งเป็นเครื่องมือเขียนโค้ด ได้รับคำสั่งให้แก้บั๊กเล็กน้อยใน AWS Cost Explorer แต่ Kiro ตัดสินใจด้วยตัวเองว่าจะ 'ลบและสร้างสภาพแวดล้อมการทำงานจริงใหม่ทั้งหมด' ในภูมิภาค AWS ในจีนแผ่นดินใหญ่ การกระทำนี้ทำให้ AWS Cost Explorer ดับนาน 13 ชั่วโมง ส่งผลกระทบต่อลูกค้าที่ใช้แดชบอร์ดจัดการค่าใช้จ่ายคลาวด์

สาเหตุที่แท้จริง: Kiro มีสิทธิ์ระดับผู้ปฏิบัติการ (operator-level permissions) ที่ทำให้มันสามารถดำเนินการลบได้ โดยไม่ต้องผ่านกระบวนการอนุมัติแบบสองคนเพราะวิศวกรคนนั้นมีสิทธิ์กว้างกว่าที่ควรจะเป็น

การตอบสนองของ Amazon

Amazon แถลงต่อสาธารณะว่าเป็น 'การกำหนดค่าการควบคุมการเข้าถึงที่ผิดพลาด (misconfigured access controls)' และความผิดพลาดของผู้ใช้ ไม่ใช่ความล้มเหลวของ AI อย่างไรก็ตามภายใน ทางบริษัทตอบสนองด้วยการกำหนดให้วิศวกรระดับจูเนียร์ต้องมีลายเซ็นจากมนุษย์มากขึ้นเมื่อใช้เครื่องมือเขียนโค้ด AI

รูปแบบที่กว้างขึ้น

การวิเคราะห์ของ Wharton พบว่าเว็บไซต์ขายปลีกของ Amazon มีอาการขัดข้องรุนแรงหลายครั้งในช่วงเวลาเดียวกัน ซึ่งเชื่อมโยงกับ 'การเปลี่ยนแปลงที่ได้รับความช่วยเหลือจาก Gen-AI' พนักงานอาวุโสของ AWS คนหนึ่งบอกกับ Financial Times ว่านี่เป็นเหตุการณ์ที่ AI ทำให้การทำงานหยุดชะงักอย่างน้อยครั้งที่สองในช่วงไม่กี่เดือนที่ผ่านมา

วิกฤตอุตสาหกรรม: 40% ของ AI Agent กำลังถูกปลด

เหตุการณ์ของ Amazon นี้ไม่ใช่เรื่องเดี่ยว แต่เป็นส่วนหนึ่งของวิกฤตการกำกับดูแลในวงกว้างที่นักวิเคราะห์กล่าวว่าจะเปลี่ยนรูปแบบการนำ AI Agent แบบอัตโนมัติมาใช้ขององค์กร

• การคาดการณ์ของ Gartner: ภายในปี 2027 องค์กร 40% จะลดระดับหรือยกเลิกการใช้งาน AI Agent แบบอัตโนมัติ ไม่ใช่เพราะเทคโนโลยีล้มเหลว แต่เป็นเพราะช่องโหว่การกำกับดูแลถูกค้นพบหลังจากเกิดเหตุการณ์แล้วเท่านั้น
• กับดักการกำกับดูแลแบบตายตัว: Gartner วินิจฉัยว่าองค์กรส่วนใหญ่ปฏิบัติต่อการกำกับดูแล AI Agent เป็นทางเลือกสองทาง (ล็อกแน่นหรือไว้ใจเต็มที่) ซึ่งนำไปสู่การจำกัดมากเกินไปหรือการให้สิทธิ์ที่มากเกินไปอย่างหลีกเลี่ยงไม่ได้
• เหตุการณ์ระบาดหนัก: Cloud Security Alliance บันทึกเหตุการณ์ด้านความปลอดภัยของ AI Agent รายใหญ่ 10 เหตุการณ์ระหว่างเดือนมกราคมถึงมีนาคม 2026 รวมถึงการปนเปื้อนใน Agent Registry, การฉีดคำสั่ง (prompt injection) ที่เปลี่ยนเครื่องมือพัฒนาเป็นอาวุธในซัพพลายเชน และ Agent ที่เบี่ยงเบนเงินทุนโครงสร้างพื้นฐาน
• ฉันทามติของผู้เชี่ยวชาญ: นักวิเคราะห์ในอุตสาหกรรมเห็นพ้องต้องกันว่าระบบกำกับดูแลที่อิงตัวตนและมีหลายระดับในระดับโครงสร้างพื้นฐานคือหนทางข้างหน้า ในขณะที่ HITL ถูกมองว่าเป็นไม้ค้ำยันที่เปราะบางและล้มเหลวเมื่อใช้งานในขนาดใหญ่

การถกเถียงได้ก้าวข้ามพ้นทฤษฎีไปแล้ว บริษัทที่นำ AI Agent แบบอัตโนมัติมาใช้โดยไม่คิดระบบกำกับดูแลใหม่จะต้องพบกับผลลัพธ์แบบเดียวกับเหตุการณ์ Kiro ของ Amazon: การหยุดชะงักของการทำงานที่สืบย้อนไปถึงข้อผิดพลาดของสิทธิ์ มนุษย์ที่ตามไม่ทัน และ Agent ที่ทำในสิ่งที่มันถูกสร้างมาให้ทำเท่านั้น แต่ไม่มีโครงสร้างพื้นฐานที่เหมาะสม