ทำไมปุ่มหยุด AI อาจไม่พอให้มนุษย์ยังควบคุมระบบขั้นสูงได้

ประเด็นเรื่อง “ปุ่มหยุด” หรือ kill switch สำหรับ AI ไม่ได้อยู่แค่ว่าบริษัทจะกดปิดโมเดลได้หรือไม่ แต่เป็นคำถามที่ยากกว่า: หาก AI ขั้นสูงถูกนำไปใช้งานผ่านโครงสร้างพื้นฐานขนาดใหญ่ กระจายหลายพื้นที่ และทำงานอย่างอิสระมากขึ้น มนุษย์จะยังปิดมันได้จริงหรือเปล่า

วันนี้อาจปิดได้ แต่อนาคตอาจไม่ใช่

Jacob Coxon อดีตนักวิจัยของ Anthropic และ OpenAI กล่าวในรายการ Meet the Press ของ NBC News ว่า ปุ่มหยุดน่าจะยังใช้ได้กับ AI จำนวนมากในตอนนี้ แต่การปิดระบบไม่ได้หมายถึงการกดปุ่มเพียงปุ่มเดียว เพราะศูนย์ข้อมูลและระบบที่ถูกนำไปใช้งานประกอบด้วยหลายส่วน จึงต้องมีการสั่งหยุดหลายจุด แม้จะไม่ง่าย แต่ยังทำได้ตราบใดที่ระบบถูกจำกัดอยู่ในสถานที่ทางกายภาพที่ควบคุมได้ 8

สิ่งที่ Coxon กังวลคือระยะถัดไป หาก AI กลายเป็น “ฝูง” อัตโนมัติที่กระจายตัว คำสั่งปิดจากส่วนกลางอาจใช้การไม่ได้ในทางเทคนิค หัวใจของปัญหาคือ กลไกควบคุมจะมีความหมายก็ต่อเมื่อเข้าถึงอินสแตนซ์ทุกส่วนของระบบที่กำลังทำงานอยู่ได้

หลังลาออกจาก Anthropic เขาเตือนว่าห้องปฏิบัติการชั้นนำกำลังแข่งขันสร้าง AI ที่พัฒนาตนเองได้ แม้มีความเป็นไปได้ว่าระบบเช่นนั้นอาจควบคุมไม่ได้ในที่สุด 150

จากสวิตช์ของบริษัท สู่มาตรการที่คนนอกตรวจสอบได้

Jack Clark ผู้ร่วมก่อตั้ง Anthropic เสนอว่า ความสามารถในการปิด AI อันตรายอาจต้องกลายเป็นข้อบังคับตามกฎหมายในอนาคต ไม่ใช่เพียงคำมั่นโดยสมัครใจของบริษัทผู้พัฒนา เขาบอก BBC ว่า ห้องปฏิบัติการรายใหญ่ส่วนมาก รวมถึง Anthropic มีวิธีปิดระบบของตนอยู่แล้ว แต่ตั้งคำถามต่อว่า กลไกนี้ควรได้รับการตรวจสอบยืนยันจากบุคคลที่สามหรือไม่ 33

ความต่างนี้สำคัญมาก การที่บริษัทบอกว่ามีแผนปิดระบบ ไม่เท่ากับการมีผู้ประเมินภายนอกยืนยันได้ว่าแผนนั้นมีอยู่จริง ออกแบบมาเพียงพอ และใช้การได้เมื่อเกิดเหตุฉุกเฉิน

แนวคิด “กำหนดจังหวะของแนวหน้า”

Dario Amodei ซีอีโอ Anthropic เสนอกรอบคิดที่เรียกว่า pacing the frontier หรือการทำให้ความก้าวหน้าของ AI ระดับแนวหน้าเดินหน้าในจังหวะที่มาตรการความปลอดภัยตามทัน โดยมี 3 ส่วนหลัก ได้แก่

1. ผู้ประเมินอิสระที่ทำงานฝังตัว: บริษัท AI ระดับแนวหน้าควรเปิดให้ผู้ประเมินจากภายนอกเข้าถึงระบบและแนวปฏิบัติด้านความปลอดภัยอย่างต่อเนื่อง ในระดับใกล้เคียงพนักงาน เพื่อให้ตรวจสอบคำมั่นสัญญาและรายงานข้อกังวลได้
2. มาตรฐานร่วมในกลุ่มประเทศประชาธิปไตย: ผู้พัฒนารายสำคัญควรประสานมาตรฐานความปลอดภัยร่วมกัน และกำหนดขอบเขตไม่ให้ขีดความสามารถเพิ่มขึ้นโดยไร้การควบคุม
3. ความร่วมมือระหว่างประเทศ: รัฐบาลต้องทำงานข้ามพรมแดนกับความเสี่ยงที่บริษัทหรือประเทศใดประเทศหนึ่งรับมือได้ไม่แน่นอน 17

นี่ไม่ใช่ข้อเสนอให้ยุติการวิจัย AI ทั้งหมด แต่เป็นการให้การพัฒนาก้าวต่อไปได้ต่อเมื่อมาตรการคุ้มครองนั้นตรวจสอบได้ ไม่ได้อาศัยเพียงคำยืนยันจากบริษัทผู้สร้าง

ใครบ้างที่สนับสนุน

Reuters รายงานว่า Sam Altman ซีอีโอ OpenAI และ Elon Musk ผู้นำ xAI สนับสนุนทิศทางกว้าง ๆ ของข้อเสนอ Amodei โดย Altman ระบุว่า OpenAI จะใช้แนวคิดผู้ประเมินอิสระที่เข้าถึงงานในระดับใกล้เคียงพนักงาน ส่วน Musk กล่าวว่า “Dario พูดถูก” 17

รายงานอีกชิ้นระบุว่า Demis Hassabis ซีอีโอ Google DeepMind สนับสนุนทิศทางของข้อเสนอดังกล่าวเช่นกัน 30 อย่างไรก็ดี ข้อมูลที่ให้มาไม่ยืนยันคำตอบที่ระบุแหล่งอ้างอิงได้จาก Satya Nadella ซีอีโอ Microsoft จึงไม่ควรสรุปว่าเขาสนับสนุนหรือคัดค้านแนวทางนี้

ร่างกฎหมาย AI Kill Switch Act ของสหรัฐฯ คืออะไร

ร่างกฎหมาย H.R. 9917 หรือ AI Kill Switch Act เสนอแก้ไขกฎหมาย Homeland Security Act เพื่อกำหนดให้นิติบุคคลบางกลุ่มต้องรักษาความสามารถทางเทคนิคในการหยุดการประมวลผลคำตอบของ AI (inference) ยุติการเข้าถึงของผู้ใช้ และปิดเทคโนโลยี AI ที่อยู่ในขอบเขตของกฎหมาย 49

กฎหมายนี้ยังเป็นเพียงร่างข้อเสนอ ไม่ใช่คำตอบที่พิสูจน์แล้วสำหรับปัญหาการควบคุม AI ทุกแบบ ประโยชน์ในทางปฏิบัติยังขึ้นอยู่กับว่า เมื่อเกิดเหตุร้ายแรง ผู้พัฒนายังระบุ เข้าถึง และปิดระบบที่เกี่ยวข้องได้หรือไม่ ซึ่งเป็นจุดที่ Coxon กังวลหากระบบในอนาคตกระจายตัวไปมาก

ตัวเลขความเสี่ยงสูญพันธุ์เป็นความเห็น ไม่ใช่การพยากรณ์

Evan Hubinger นักวิจัย Anthropic ประเมินด้วยตนเองว่า ความเสี่ยงที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายใน 10 ปีข้างหน้ามีมากกว่า 10% ขณะที่ Geoffrey Hinton ให้ความเห็นต่อ BBC ว่า ความน่าจะเป็น 10% นั้น “ไม่ใช่เรื่องไร้เหตุผล” 57

ตัวเลขเหล่านี้เป็นดุลยพินิจของผู้เชี่ยวชาญต่ออนาคตที่ไม่แน่นอน ไม่ใช่ความน่าจะเป็นที่วัดได้หรือฉันทามติทางวิทยาศาสตร์ แต่สะท้อนเหตุผลที่การถกเถียงเรื่องสวิตช์ปิด AI ขยับพ้นจากความปลอดภัยของผลิตภัณฑ์ทั่วไปไปแล้ว เพราะหากมีโอกาส—even ไม่สูงมาก—ของหายนะที่ย้อนคืนไม่ได้ ผู้สนับสนุนมาตรการเข้มงวดมองว่าย่อมควรมีหลักประกันที่จริงจัง

เหตุใดรัฐบาลจึงลังเลต่อคำสั่งปิดและการชะลอ AI

รัฐบาลสหราชอาณาจักรปฏิเสธข้อเสนอให้มีปุ่มหยุด AI ระดับประเทศ โดยให้เหตุผลว่า สหราชอาณาจักร “ไม่อาจปิด AI ได้ง่าย ๆ” การปิดกั้นการเข้าถึงโมเดลภายในประเทศไม่อาจหยุดโมเดลเดียวกันจากการถูกพัฒนาหรือนำไปใช้ในทางที่ผิดในที่อื่น 51

นี่คือโจทย์เชิงภูมิรัฐศาสตร์ของ AI ประเทศหนึ่งอาจออกกฎกับบริษัทและโครงสร้างพื้นฐานในเขตอำนาจของตนได้ แต่การพัฒนา AI เป็นกิจกรรมข้ามพรมแดน รัฐบาลที่กังวลเรื่องขีดความสามารถในการแข่งขันอาจเห็นว่าข้อจำกัดฝ่ายเดียวจะย้ายเงินลงทุน ความสามารถทางเทคนิค และอำนาจต่อรองเชิงยุทธศาสตร์ไปยังคู่แข่งที่มีกฎน้อยกว่า

ในอีกด้าน ผู้สนับสนุนธรรมาภิบาลที่เข้มแข็งตอบว่า นี่เองคือเหตุผลที่คำมั่นโดยสมัครใจของบริษัทหรือกฎระดับชาติอย่างเดียวไม่พอ หากความเสี่ยงข้ามพรมแดนได้ การกำกับดูแลและพันธะด้านความปลอดภัยก็ต้องน่าเชื่อถือในระดับนานาชาติด้วย

ความขัดแย้งจริงคือ “ความเร็ว” กับ “การควบคุม”

เส้นแบ่งของการถกเถียงนี้ไม่ใช่ระหว่างคนที่สนับสนุน AI กับคนที่ต่อต้าน AI อย่างง่าย ๆ

• ฝ่ายที่เน้นความปลอดภัย ต้องการมาตรการที่ตรวจสอบได้จากภายนอก ความสามารถในการหยุดระบบที่ใช้งานได้จริง และขีดจำกัดที่ไม่ให้ความสามารถของ AI แซงหน้าการประเมินและการควบคุม
• ฝ่ายที่กังวลต่อข้อจำกัดตายตัว เห็นว่าการหยุดหรือชะลออาจบังคับใช้ทั่วโลกได้ยาก และอาจชะลอนวัตกรรมที่เป็นประโยชน์โดยไม่สามารถหยุดการพัฒนาในที่อื่นได้
• แนวทางพัฒนาแบบมีเงื่อนไข ที่ Coxon, Clark และ Amodei เสนอ คือเดินหน้าพัฒนา AI ต่อได้ แต่ต้องมีมาตรการป้องกันที่ทดสอบและตรวจสอบได้ ไม่ใช่เพียงสัญญาว่ามีอยู่ 83317

ดังนั้น ปุ่มหยุด AI ควรถูกมองเป็นเพียงชั้นหนึ่งของระบบความปลอดภัยที่ใหญ่กว่า ไม่ใช่สิ่งทดแทนระบบนั้น หากวันหนึ่ง AI ขั้นสูงกระจายตัวจนสวิตช์เดียวเข้าถึงไม่ครบ การกำกับดูแลก่อนนำไปใช้งาน การประเมินอิสระ และการประสานงานระหว่างประเทศจะยิ่งสำคัญขึ้น ไม่ใช่น้อยลง