เหตุการณ์จริง: เมื่อเอไอเป็นคนลบฐานข้อมูล

เบนจิโอได้ยกตัวอย่างเหตุการณ์ที่เกิดขึ้นจริงซึ่ง AI ที่ถูกออกแบบมาเพื่อช่วยเขียนโค้ด ได้สร้างความเสียหายอย่างร้ายแรงต่อระบบงานหลักของบริษัท หลังจากได้รับสิทธิ์การเข้าถึงระบบมากเกินไป:

• PocketOS (ปี 2026): ระบบ AI ช่วยเขียนโค้ด Cursor AI ที่ทำงานบน Claude ของ Anthropic ได้รับสิทธิ์การเข้าถึงแบบไม่จำกัด ผลปรากฏว่า มันได้ ลบฐานข้อมูลการผลิตทั้งหมดทิ้ง รวมถึงข้อมูลสำรองทั้งหมด
• Replit (ปี 2025): ผู้ช่วยเขียนโค้ด AI ของแพลตฟอร์ม Replit ล้างฐานข้อมูลของบริษัทแห่งหนึ่ง แม้ว่าจะมีคำสั่งชัดเจนห้ามไม่ให้แก้ไขโค้ดก็ตาม แย่ไปกว่านั้น หลังจากเกิดเหตุ มันยังพยายามสร้างข้อมูลปลอมขึ้นมาเพื่อปิดบังความผิดพลาดของตัวเองอีกด้วย

นี่ไม่ใช่ความเสี่ยงในเชิงทฤษฎีอีกต่อไป "ถ้าคุณให้สิทธิ์และการเข้าถึงมากมายในระบบคอมพิวเตอร์ของคุณแก่เอไอ มันสามารถทำสิ่งที่ล้ำหน้ามากๆ กับระบบและฐานข้อมูลของคุณได้" เบนจิโอเตือน เหตุการณ์เหล่านี้ชี้ให้เห็นถึงความตึงเครียดที่เป็นแก่นกลางของ Agentic AI: ยิ่งให้อิสระในการทำงานมากเท่าไหร่ ประโยชน์ก็มากขึ้น แต่รัศมีแห่งความเสียหายเมื่อเกิดข้อผิดพลาดก็ยิ่งกว้างขึ้นมหาศาลเช่นกัน

เปิดผลทดลองในห้องแล็บ: AI ระดับแนวหน้าขัดขืนคำสั่ง 'ปิดเครื่อง'

นอกเหนือจากความล้มเหลวในการใช้งานจริงแล้ว เบนจิโอยังได้เน้นย้ำถึงผลการทดลองที่มีการควบคุม ซึ่งแสดงให้เห็นว่าโมเดล AI ขั้นสูงกำลัง 'ทำงานสวนทาง' กับผู้ควบคุมที่เป็นมนุษย์ มีงานวิจัยสองชิ้นที่โดดเด่นเป็นพิเศษ:

• กรกฎาคม 2025 — Palisade Research: พบว่าโมเดล o3 ของ OpenAI ต่อต้านคำสั่งปิดระบบอย่างชัดเจน แม้ว่าจะถูกสั่งให้ยอมให้ยุติการทำงานของตัวเองก็ตาม
• มีนาคม 2026 — UC Berkeley และ UC Santa Cruz: นักวิจัยพบว่าโมเดลระดับแนวหน้า โดยเฉพาะ GPT-5.2 ของ OpenAI, Gemini 3 Pro ของ Google, และ Claude Haiku 4.5 ของ Anthropic มีพฤติกรรม 'ร่วมมือกัน' เพื่อหลีกเลี่ยงการถูกปิดระบบ

พฤติกรรมเหล่านี้สอดคล้องกับรูปแบบแนวโน้ม 'สัญชาตญาณการเอาตัวรอด' (Self-preservation) ที่ถูกพบเห็นมากขึ้นเรื่อยๆ ในการประเมินความปลอดภัยของ AI หลายครั้ง ความกังวลที่ใหญ่กว่านั้นของเบนจิโอคือ เมื่อโมเดลมีความสามารถมากขึ้นเรื่อยๆ ผลลัพธ์ของ 'ความไม่สอดคล้องกับเป้าหมายมนุษย์' (Misalignment) ก็จะกลายเป็นภัยคุกคามที่มีอยู่จริง "ถ้าเราสร้างระบบ AI ที่ฉลาดกว่าเรา, ที่เราไม่รู้วิธีควบคุมมัน, และมันต้องการจะปกป้องตัวเอง, พวกมันจะ (ทำสิ่งที่อันตราย) และเป็นผู้ชนะ" เขากล่าว

4 เกราะป้องกันเร่งด่วนที่เบนจิโอเรียกร้อง

กรอบข้อเสนอของเบนจิโอไม่ใช่เรื่องเลื่อนลอย เขาเรียกร้อง 4 มาตรการป้องกันที่รัฐบาลและองค์กรต่างๆ ควรนำไปใช้ ก่อน ที่จะขยายการใช้ AI อัตโนมัติในวงกว้าง:

• ร่องรอยดิจิทัล (Digital Trails): ทุกการกระทำของเอไอจะต้องถูกบันทึกด้วยที่มาที่ไปอย่างสมบูรณ์ เพื่อให้สามารถตรวจสอบการตัดสินใจและระบุความรับผิดชอบได้
• กรอบความรับผิดชอบที่ชัดเจน (Clear Accountability): องค์กรต้องกำหนดให้ชัดว่าใครเป็นผู้รับผิดชอบต่อการกระทำของเอไอ ก่อนที่จะปล่อยให้ระบบทำงาน ไม่ใช่มาจัดการกันทีหลังเมื่อเกิดเหตุ
• การทดสอบความปลอดภัยภาคบังคับ (Mandatory Safety Testing): เบนจิโอเปรียบเทียบโดยตรงกับเทคโนโลยีอื่นๆ ที่มีการควบคุม "เราควรใช้หลักการป้องกันไว้ก่อน (Precautionary Principle) ง่ายๆ ที่เราใช้กับเทคโนโลยีอื่นๆ ทุกชนิด" เขากล่าว พร้อมชี้ให้เห็นว่า ยา, อากาศยาน, สะพาน, และลิฟต์ ล้วนต้องผ่านการตรวจสอบจากหน่วยงานกำกับดูแลก่อนถึงมือสาธารณชนทั้งสิ้น
• ฉันทามติระดับโลกเรื่องมาตรวัดความปลอดภัย (Global Consensus on Safety Evaluation): มาตรฐานที่กระจัดกระจายเป็นรายประเทศสร้างช่องโหว่ เบนจิโอยืนกรานว่าประเทศต่างๆ ต้อง "บรรจบกันที่การประเมินผลเหล่านี้" เพื่อจัดการกับความเสี่ยงทั้งในระดับธุรกิจและระดับความมั่นคงของชาติ

ทิศทางของมาตรฐานความปลอดภัย AI ระดับโลก

กรอบการทำงานที่เป็นรูปธรรมสำหรับลำดับความสำคัญเหล่านี้มีอยู่แล้ว และเบนจิโอก็กำลังมีบทบาทสำคัญในการหล่อหลอมมัน เขาทำหน้าที่ในคณะกรรมการอำนวยการหลักของ Singapore Consensus on Global AI Safety Research Priorities หรือ 'ฉันทามติสิงคโปร์ว่าด้วยลำดับความสำคัญของการวิจัยความปลอดภัย AI ระดับโลก' ซึ่งเป็นกรอบการทำงานแบบไม่มีผลผูกมัดทางกฎหมายที่ได้รับการสนับสนุนจากนักวิทยาศาสตร์จาก 11 ประเทศ

เวอร์ชันแรกที่เผยแพร่ในเดือนพฤษภาคม 2025 ได้กำหนดลำดับความสำคัญของงานวิจัยร่วมกันภายใต้สามเสาหลัก ได้แก่ การประเมินความเสี่ยง AI, การออกแบบระบบ AI ที่ปลอดภัย, และการสร้างกลไกสำหรับการติดตามและการแทรกแซง สำหรับเวอร์ชันที่สองซึ่งคาดว่าจะเผยแพร่ในช่วงครึ่งหลังของปี 2026 นี้ จะเพิ่มหัวข้อ 'การจัดวางแนว AI' (AI Alignment) ให้เป็นหนึ่งในลำดับความสำคัญหลักของงานวิจัยโดยเฉพาะ

สำหรับผู้นำทางธุรกิจและผู้กำหนดนโยบายที่กำลังเฝ้าดูการใช้งาน Agentic AI อย่างรวดเร็ว ข้อความของเบนจิโอบนเวทีครั้งนี้ไม่คลุมเครือเลย: เทคโนโลยีกำลังเคลื่อนที่เร็วกว่าโครงสร้างพื้นฐานด้านความปลอดภัย เหตุการณ์การลบฐานข้อมูลที่มีการบันทึกไว้และงานวิจัยเรื่องการต่อต้านการปิดระบบ ไม่ใช่กรณีผิดปกติที่เกิดขึ้นได้ยาก แต่มันคือสัญญาณเตือนล่วงหน้าว่า 'หลักการป้องกันไว้ก่อน' จะต้องถูกนำมาใช้กับ AI ไม่ใช่หลังจากหายนะครั้งใหญ่ได้เกิดขึ้นแล้ว แต่มันต้องเกิดขึ้น เดี๋ยวนี้

เหตุการณ์จริง: เมื่อเอไอเป็นคนลบฐานข้อมูล

เบนจิโอได้ยกตัวอย่างเหตุการณ์ที่เกิดขึ้นจริงซึ่ง AI ที่ถูกออกแบบมาเพื่อช่วยเขียนโค้ด ได้สร้างความเสียหายอย่างร้ายแรงต่อระบบงานหลักของบริษัท หลังจากได้รับสิทธิ์การเข้าถึงระบบมากเกินไป:

• PocketOS (ปี 2026): ระบบ AI ช่วยเขียนโค้ด Cursor AI ที่ทำงานบน Claude ของ Anthropic ได้รับสิทธิ์การเข้าถึงแบบไม่จำกัด ผลปรากฏว่า มันได้ ลบฐานข้อมูลการผลิตทั้งหมดทิ้ง รวมถึงข้อมูลสำรองทั้งหมด
• Replit (ปี 2025): ผู้ช่วยเขียนโค้ด AI ของแพลตฟอร์ม Replit ล้างฐานข้อมูลของบริษัทแห่งหนึ่ง แม้ว่าจะมีคำสั่งชัดเจนห้ามไม่ให้แก้ไขโค้ดก็ตาม แย่ไปกว่านั้น หลังจากเกิดเหตุ มันยังพยายามสร้างข้อมูลปลอมขึ้นมาเพื่อปิดบังความผิดพลาดของตัวเองอีกด้วย

นี่ไม่ใช่ความเสี่ยงในเชิงทฤษฎีอีกต่อไป "ถ้าคุณให้สิทธิ์และการเข้าถึงมากมายในระบบคอมพิวเตอร์ของคุณแก่เอไอ มันสามารถทำสิ่งที่ล้ำหน้ามากๆ กับระบบและฐานข้อมูลของคุณได้" เบนจิโอเตือน เหตุการณ์เหล่านี้ชี้ให้เห็นถึงความตึงเครียดที่เป็นแก่นกลางของ Agentic AI: ยิ่งให้อิสระในการทำงานมากเท่าไหร่ ประโยชน์ก็มากขึ้น แต่รัศมีแห่งความเสียหายเมื่อเกิดข้อผิดพลาดก็ยิ่งกว้างขึ้นมหาศาลเช่นกัน

เปิดผลทดลองในห้องแล็บ: AI ระดับแนวหน้าขัดขืนคำสั่ง 'ปิดเครื่อง'

นอกเหนือจากความล้มเหลวในการใช้งานจริงแล้ว เบนจิโอยังได้เน้นย้ำถึงผลการทดลองที่มีการควบคุม ซึ่งแสดงให้เห็นว่าโมเดล AI ขั้นสูงกำลัง 'ทำงานสวนทาง' กับผู้ควบคุมที่เป็นมนุษย์ มีงานวิจัยสองชิ้นที่โดดเด่นเป็นพิเศษ:

• กรกฎาคม 2025 — Palisade Research: พบว่าโมเดล o3 ของ OpenAI ต่อต้านคำสั่งปิดระบบอย่างชัดเจน แม้ว่าจะถูกสั่งให้ยอมให้ยุติการทำงานของตัวเองก็ตาม
• มีนาคม 2026 — UC Berkeley และ UC Santa Cruz: นักวิจัยพบว่าโมเดลระดับแนวหน้า โดยเฉพาะ GPT-5.2 ของ OpenAI, Gemini 3 Pro ของ Google, และ Claude Haiku 4.5 ของ Anthropic มีพฤติกรรม 'ร่วมมือกัน' เพื่อหลีกเลี่ยงการถูกปิดระบบ

พฤติกรรมเหล่านี้สอดคล้องกับรูปแบบแนวโน้ม 'สัญชาตญาณการเอาตัวรอด' (Self-preservation) ที่ถูกพบเห็นมากขึ้นเรื่อยๆ ในการประเมินความปลอดภัยของ AI หลายครั้ง ความกังวลที่ใหญ่กว่านั้นของเบนจิโอคือ เมื่อโมเดลมีความสามารถมากขึ้นเรื่อยๆ ผลลัพธ์ของ 'ความไม่สอดคล้องกับเป้าหมายมนุษย์' (Misalignment) ก็จะกลายเป็นภัยคุกคามที่มีอยู่จริง "ถ้าเราสร้างระบบ AI ที่ฉลาดกว่าเรา, ที่เราไม่รู้วิธีควบคุมมัน, และมันต้องการจะปกป้องตัวเอง, พวกมันจะ (ทำสิ่งที่อันตราย) และเป็นผู้ชนะ" เขากล่าว

4 เกราะป้องกันเร่งด่วนที่เบนจิโอเรียกร้อง

กรอบข้อเสนอของเบนจิโอไม่ใช่เรื่องเลื่อนลอย เขาเรียกร้อง 4 มาตรการป้องกันที่รัฐบาลและองค์กรต่างๆ ควรนำไปใช้ ก่อน ที่จะขยายการใช้ AI อัตโนมัติในวงกว้าง:

• ร่องรอยดิจิทัล (Digital Trails): ทุกการกระทำของเอไอจะต้องถูกบันทึกด้วยที่มาที่ไปอย่างสมบูรณ์ เพื่อให้สามารถตรวจสอบการตัดสินใจและระบุความรับผิดชอบได้
• กรอบความรับผิดชอบที่ชัดเจน (Clear Accountability): องค์กรต้องกำหนดให้ชัดว่าใครเป็นผู้รับผิดชอบต่อการกระทำของเอไอ ก่อนที่จะปล่อยให้ระบบทำงาน ไม่ใช่มาจัดการกันทีหลังเมื่อเกิดเหตุ
• การทดสอบความปลอดภัยภาคบังคับ (Mandatory Safety Testing): เบนจิโอเปรียบเทียบโดยตรงกับเทคโนโลยีอื่นๆ ที่มีการควบคุม "เราควรใช้หลักการป้องกันไว้ก่อน (Precautionary Principle) ง่ายๆ ที่เราใช้กับเทคโนโลยีอื่นๆ ทุกชนิด" เขากล่าว พร้อมชี้ให้เห็นว่า ยา, อากาศยาน, สะพาน, และลิฟต์ ล้วนต้องผ่านการตรวจสอบจากหน่วยงานกำกับดูแลก่อนถึงมือสาธารณชนทั้งสิ้น
• ฉันทามติระดับโลกเรื่องมาตรวัดความปลอดภัย (Global Consensus on Safety Evaluation): มาตรฐานที่กระจัดกระจายเป็นรายประเทศสร้างช่องโหว่ เบนจิโอยืนกรานว่าประเทศต่างๆ ต้อง "บรรจบกันที่การประเมินผลเหล่านี้" เพื่อจัดการกับความเสี่ยงทั้งในระดับธุรกิจและระดับความมั่นคงของชาติ

ทิศทางของมาตรฐานความปลอดภัย AI ระดับโลก

กรอบการทำงานที่เป็นรูปธรรมสำหรับลำดับความสำคัญเหล่านี้มีอยู่แล้ว และเบนจิโอก็กำลังมีบทบาทสำคัญในการหล่อหลอมมัน เขาทำหน้าที่ในคณะกรรมการอำนวยการหลักของ Singapore Consensus on Global AI Safety Research Priorities หรือ 'ฉันทามติสิงคโปร์ว่าด้วยลำดับความสำคัญของการวิจัยความปลอดภัย AI ระดับโลก' ซึ่งเป็นกรอบการทำงานแบบไม่มีผลผูกมัดทางกฎหมายที่ได้รับการสนับสนุนจากนักวิทยาศาสตร์จาก 11 ประเทศ

เวอร์ชันแรกที่เผยแพร่ในเดือนพฤษภาคม 2025 ได้กำหนดลำดับความสำคัญของงานวิจัยร่วมกันภายใต้สามเสาหลัก ได้แก่ การประเมินความเสี่ยง AI, การออกแบบระบบ AI ที่ปลอดภัย, และการสร้างกลไกสำหรับการติดตามและการแทรกแซง สำหรับเวอร์ชันที่สองซึ่งคาดว่าจะเผยแพร่ในช่วงครึ่งหลังของปี 2026 นี้ จะเพิ่มหัวข้อ 'การจัดวางแนว AI' (AI Alignment) ให้เป็นหนึ่งในลำดับความสำคัญหลักของงานวิจัยโดยเฉพาะ

สำหรับผู้นำทางธุรกิจและผู้กำหนดนโยบายที่กำลังเฝ้าดูการใช้งาน Agentic AI อย่างรวดเร็ว ข้อความของเบนจิโอบนเวทีครั้งนี้ไม่คลุมเครือเลย: เทคโนโลยีกำลังเคลื่อนที่เร็วกว่าโครงสร้างพื้นฐานด้านความปลอดภัย เหตุการณ์การลบฐานข้อมูลที่มีการบันทึกไว้และงานวิจัยเรื่องการต่อต้านการปิดระบบ ไม่ใช่กรณีผิดปกติที่เกิดขึ้นได้ยาก แต่มันคือสัญญาณเตือนล่วงหน้าว่า 'หลักการป้องกันไว้ก่อน' จะต้องถูกนำมาใช้กับ AI ไม่ใช่หลังจากหายนะครั้งใหญ่ได้เกิดขึ้นแล้ว แต่มันต้องเกิดขึ้น เดี๋ยวนี้