เหตุใดสหราชอาณาจักรปัดแนวคิด “ปุ่มตัดระบบ AI” และอะไรจึงจำเป็นต่อการคุมโมเดลความเสี่ยงสูง

รัฐบาลสหราชอาณาจักรไม่ได้ปฏิเสธแนวคิด “ปุ่มตัดระบบ” (kill switch) สำหรับ AI เพราะเห็นว่าโมเดลอันตรายไม่มีความเสี่ยง แต่เหตุผลหลักคือ ขอบเขตอำนาจรัฐ: การปิดการเข้าถึงโมเดล ศูนย์ข้อมูล หรือโครงสร้างพื้นฐานภายในประเทศ อาจไม่หยุดยั้งระบบแบบเดียวกันที่พัฒนา โฮสต์ หรือถูกนำไปใช้ผิดในต่างประเทศได้ 1

จุดยืนนี้ทำให้ข้อถกเถียงด้านนโยบายชัดขึ้น รัฐบาลระบุว่ามีช่องทางแทรกแซงเหตุไซเบอร์ร้ายแรงอยู่แล้ว และอาจออกกฎที่มีผลบังคับหากมาตรการสมัครใจใช้ไม่ได้ผล ขณะที่ผู้สนับสนุนอำนาจใหม่มองว่า การรับมือความเสี่ยงระดับหายนะต้องมีกลไกตามกฎหมายที่ใช้บังคับได้ก่อนเกิดเหตุฉุกเฉินจริง 1617

“ปุ่มตัดระบบ” ที่เสนอจะทำอะไรได้บ้าง

ลอร์ด ทิม เคลเมนต์-โจนส์ เสนอแก้ไขร่างกฎหมาย Cyber Security and Resilience Bill เพื่อสร้างกลไกทางกฎหมายสำหรับการแทรกแซง AI อันตรายในภาวะฉุกเฉิน แนวคิดนี้เป็นอำนาจทางเลือกสุดท้าย ให้รัฐปิดการทำงานของโมเดล AI หรือสั่งหยุดการดำเนินงานของศูนย์ข้อมูลในสหราชอาณาจักร เมื่อระบบก่อภัยคุกคามร้ายแรงต่อความมั่นคงหรือการปฏิบัติการ 26

ประเด็นสำคัญคือกฎไซเบอร์ที่มีอยู่เน้นความมั่นคงปลอดภัยของระบบเครือข่ายและระบบสารสนเทศเป็นหลัก นักวิจารณ์จึงเห็นว่ายังไม่มีกรอบเฉพาะที่ชัดเจนสำหรับกำกับผู้พัฒนาโมเดลแนวหน้า หรือรับมือความเสี่ยงที่เกิดจากโมเดลอัตโนมัติโดยตรง 15

เหตุผลของรัฐบาล: อังกฤษสั่ง “ปิด AI ทั้งหมด” ไม่ได้

ข้อคัดค้านของ Cabinet Office ซึ่งเป็นหน่วยงานรัฐบาลที่ดูแลงานความปลอดภัย AI อยู่ที่เรื่องเขตอำนาจเป็นหลัก หน่วยงานระบุว่า สหราชอาณาจักร “ไม่สามารถปิด AI ได้ง่าย ๆ” เพราะการจำกัดการเข้าถึงภายในประเทศไม่ได้ป้องกันการสร้างหรือการใช้โมเดลสมรรถนะสูงในประเทศอื่น 1

นี่คือข้อจำกัดเชิงปฏิบัติของอำนาจสั่งปิดระดับชาติ อาจตัดขาดโครงสร้างพื้นฐานที่อยู่ในอำนาจของอังกฤษได้ แต่ไม่สามารถลบค่าน้ำหนักของโมเดล (model weights) หยุดบริการระยะไกลนอกประเทศ หรือขัดขวางผู้เล่นต่างชาติจากการพัฒนาความสามารถทัดเทียมกันได้ อำนาจภายในประเทศอาจช่วยจำกัดเหตุการณ์เฉพาะหน้าในพื้นที่ได้ แต่ไม่ใช่คำตอบครบถ้วนสำหรับเทคโนโลยีข้ามพรมแดน

แดเนียล โคโคทาจโล อดีตนักวิจัย OpenAI ให้เหตุผลในทิศทางเดียวกันว่า การสั่งปิดฝ่ายเดียวของประเทศหนึ่งจะไม่เพียงพอหากไม่มีข้อตกลงระหว่างประเทศ เขามองว่าเครื่องมือเช่นนี้ยังดีกว่าไม่มีเลย แต่การทูต โดยเฉพาะการทำงานร่วมกับสหรัฐฯ สำคัญกว่าในการชะลอหรือกำกับการพัฒนา AI แนวหน้า 14

เหตุใดรัฐมนตรีจึงอ้างถึงอำนาจไซเบอร์ที่มีอยู่

ทางเลือกของรัฐบาลไม่ได้หมายถึงปล่อยให้บริษัทตัดสินใจเองทั้งหมด รัฐมนตรีอังกฤษให้เหตุผลว่า Cyber Security and Resilience Bill มีฐานอำนาจให้แทรกแซงได้อยู่แล้ว เมื่อระบบเครือข่ายหรือสารสนเทศที่ถูกบุกรุกสร้างความเสี่ยงต่อความมั่นคงของชาติ ซึ่งอาจรวมถึงการสั่งให้องค์กรหยุดใช้และแยกโมเดล AI ออกจากระบบ 16

คานิชกา นารายัน รัฐมนตรี AI ของอังกฤษ ยังกล่าวว่ารัฐบาลจะพิจารณากฎบังคับสำหรับโมเดลขั้นสูง หากมาตรการป้องกันก่อนเปิดใช้งานที่อาศัยความสมัครใจไม่สามารถคุ้มครองประชาชนได้อีกต่อไป ปัจจุบัน AI Security Institute ของอังกฤษเข้าถึงโมเดลก่อนเปิดใช้งานจากบริษัทอย่าง OpenAI, Anthropic และ Google ภายใต้ข้อตกลงสมัครใจ 17

ความเห็นต่างจึงอยู่ที่แก่นกลางดังนี้

• มุมมองรัฐบาล: อำนาจไซเบอร์แบบเจาะจง ความรับผิดชอบของผู้พัฒนา การเข้าถึงโมเดลโดยสมัครใจ และความร่วมมือระหว่างประเทศ ใช้การได้จริงกว่าปุ่มปิดเฉพาะในอังกฤษ
• มุมมองผู้วิจารณ์: การเข้าถึงโดยสมัครใจและอำนาจไซเบอร์ทั่วไป ไม่อาจทดแทนอำนาจตามกฎหมายในการบังคับทดสอบ จำกัด หรือสั่งหยุดการปล่อยใช้ เมื่อความเสี่ยงเกินระดับยอมรับได้

ร่าง AI Security Bill ของอเล็กซ์ โซเบล เสนออะไร

ข้อเสนออีกฉบับของ อเล็กซ์ โซเบล ส.ส. พรรคแรงงาน ไปไกลกว่าอำนาจสั่งปิดฉุกเฉิน รายงานระบุว่า AI Security Bill ของเขาจะห้ามการพัฒนา การปล่อยใช้ และการดำเนินงานของปัญญาประดิษฐ์เหนือมนุษย์ (artificial superintelligence) โดยเฉพาะระบบที่มนุษย์ควบคุมไม่ได้ 23

แนวทางนี้เน้นการป้องกันล่วงหน้ามากกว่าการตอบสนองหลังเกิดเหตุ แทนที่จะรอปิดระบบเมื่อ AI อันตรายเริ่มทำงานแล้ว ร่างกฎหมายจะให้รัฐบาลมีบทบาทติดตามและควบคุมกระบวนการพัฒนาตลอดห่วงโซ่อุปทาน AI รวมถึงในระดับชิป 7

ข้อเสนอยังมองข้ามพรมแดน โดยกำหนดให้รัฐบาลผลักดันข้อตกลงระหว่างประเทศเพื่อป้องกันปัญญาประดิษฐ์เหนือมนุษย์ที่ไร้การควบคุม สะท้อนข้อเท็จจริงว่ากำลังประมวลผล การพัฒนาโมเดล และการนำไปใช้งานกระจายอยู่หลายเขตอำนาจ 3

เหตุใดร่างกฎหมายนี้เดินหน้าได้ยาก

ร่างของโซเบลเป็นร่างกฎหมายของสมาชิกสภาฯ รายบุคคล (private member’s bill) ซึ่งโดยทั่วไปต้องได้รับการสนับสนุนจากรัฐบาลจึงจะมีโอกาสคืบหน้า การคัดค้านข้อเสนอปุ่มตัดระบบที่เกี่ยวข้องกันของรัฐบาลจึงสะท้อนว่า ในระยะใกล้ยังมีแรงสนับสนุนจำกัดต่อการแทรกแซงในรูปแบบนี้ 21

ในภาพรวม อังกฤษยังอาศัยกฎหมายที่มีอยู่ หน่วยงานกำกับรายสาขา และข้อตกลงสมัครใจกับผู้พัฒนาโมเดลแนวหน้า มากกว่าจะมีกฎหมาย AI ฉบับเดียวที่ให้อำนาจบังคับใช้กว้างขวางก่อนปล่อยโมเดล นารายันเปิดทางไว้สำหรับกฎที่เข้มงวดขึ้น แต่จะพิจารณาเมื่อแนวทางสมัครใจในปัจจุบันพิสูจน์ว่าไม่เพียงพอ 17

คำถามเชิงนโยบายจึงคือ ต้องรอให้มีหลักฐานความล้มเหลวมากเพียงใดก่อนสร้างอำนาจบังคับใช้ ผู้สนับสนุนหลักประกันตามกฎหมายเห็นว่าการรอความล้มเหลวที่ชัดเจนอาจเสี่ยงเกินไป หากเหตุที่กังวลเป็นเหตุการณ์ผลกระทบสูงและเคลื่อนตัวรวดเร็ว

เหตุใดการถกเถียงเรื่องความเสี่ยง AI จึงร้อนแรงขึ้น

ข้อเสนอปุ่มตัดระบบเกิดขึ้นท่ามกลางรายงานเหตุด้านความปลอดภัย AI และความกังวลว่าโมเดลอาจหลบเลี่ยงมาตรการคุ้มกันหรือถูกใช้ในกิจกรรมไซเบอร์ รายงานเหล่านี้ทำให้ความเป็นไปได้ของการสูญเสียการควบคุมดูจับต้องได้มากขึ้นสำหรับสมาชิกรัฐสภาและผู้สนับสนุนความปลอดภัย AI บางส่วน 12

การถกเถียงยังถูกขับเคลื่อนด้วยความต่างด้านการกำกับดูแล สหภาพยุโรปมีกฎหมาย AI Act แล้ว ขณะที่อังกฤษเลือกแนวทางที่เบากว่า อาศัยการกำกับรายสาขาเสริมด้วยการทดสอบระบบแนวหน้าก่อนเปิดใช้งานโดยสมัครใจ 17

ทั้งสองแนวทางไม่อาจแก้ปัญหาการประสานงานระหว่างประเทศได้ลำพัง ระบบที่มีความสามารถสูงอาจถูกฝึก โฮสต์ คัดลอก หรือปล่อยใช้งานข้ามพรมแดนได้ แต่ข้อขัดแย้งเรื่องปุ่มตัดระบบเปิดเผยคำถามที่เร่งด่วนกว่า: อังกฤษควรมีอำนาจตามกฎหมายที่ชัดเจนเพื่อแทรกแซงก่อนที่ความร่วมมือโดยสมัครใจหรืออำนาจไซเบอร์เดิมจะถูกทดสอบในวิกฤตหรือไม่

ทางเลือกเชิงนโยบายที่แท้จริง

ข้อพิพาทนี้ไม่ใช่แค่เรื่องควรมีปุ่มให้กดหรือไม่ แต่เป็นเรื่องลำดับและขอบเขตของการควบคุม

1. การป้องกัน: กำกับกำลังประมวลผล ชิป การฝึก การทดสอบ และการปล่อยใช้ ก่อนระบบออกสู่สาธารณะ
2. การแทรกแซง: มีอำนาจชัดเจนในการแยกหรือหยุดระบบที่ก่อความเสี่ยงด้านความมั่นคงอย่างเฉียบพลัน
3. การประสานงานระหว่างประเทศ: มีข้อตกลงลดช่องว่างจากการย้ายไปใช้เขตอำนาจที่กฎอ่อนกว่า และทำให้มาตรการภายในประเทศมีประสิทธิผลขึ้น

รัฐบาลอังกฤษปฏิเสธปุ่มตัดระบบระดับชาติแบบเดี่ยว ๆ เพราะมองว่าไม่พอต่อภัยคุกคามระดับโลก ส่วนผู้วิจารณ์ยอมรับข้อจำกัดนี้ แต่ได้ข้อสรุปตรงกันข้าม: อังกฤษควรมีทั้งอำนาจตามกฎหมายภายในประเทศและความร่วมมือระหว่างประเทศ ไม่ใช่เลือกอย่างใดอย่างหนึ่งแทนอีกอย่าง 1316