เมื่อผู้นำด้าน Alignment ของ Anthropic ประเมินความเสี่ยง AI ทำลายมนุษยชาติไว้เกิน 10%

Evan Hubinger ไม่ได้พิสูจน์ว่า AI จะทำให้มนุษย์สูญพันธุ์ สิ่งที่เขาพูดมีความเฉพาะเจาะจงกว่านั้น แต่ส่งผลต่อการถกเถียงอย่างมาก: ในฐานะผู้นำงานวิทยาศาสตร์ด้านการทำให้ AI สอดคล้องกับเจตนามนุษย์ (AI alignment) ของ Anthropic เขาระบุว่า โดยส่วนตัว ประเมินความเป็นไปได้ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายในทศวรรษหน้าว่าเกิน 10% พร้อมยอมรับว่า Anthropic ยังไม่มีแผนแก้ปัญหา alignment สำหรับระบบเหนือมนุษย์ หรือ superintelligence และยังไม่เห็นเส้นทางที่ชัดเจนว่าจะไปถึงจุดนั้นได้อย่างไร 12

คำพูดนี้จึงทำให้ข้อกังวลเบื้องหลังการลาออกของ Jacob Coxon อดีตนักวิจัยทั้ง Anthropic และ OpenAI ดูไม่ใช่เพียงความเห็นโดดเดี่ยวมากนัก นั่นคือ ห้องปฏิบัติการ AI แนวหน้ากำลังเดินหน้าสร้างระบบที่เก่งขึ้นมาก ขณะที่วิธีทำให้ระบบเหล่านั้นปฏิบัติตามเป้าหมายและข้อจำกัดของมนุษย์อย่างเชื่อถือได้ยังไม่ผ่านการพิสูจน์ 23

ต้องแยกให้ออก: การประเมินส่วนบุคคล ไม่ใช่ข้อสรุปของบริษัท

ตัวเลข “มากกว่า 10%” เป็นความเห็นของ Hubinger เอง ไม่ได้ถูกเสนอเป็นตัวเลขความเสี่ยงอย่างเป็นทางการของ Anthropic ไม่ใช่ฉันทามติของพนักงาน และไม่ใช่ข้อยุติทางวิทยาศาสตร์ 12

ข้อแตกต่างนี้สำคัญมาก เพราะตัวเลขความน่าจะเป็นเพียงอย่างเดียวไม่ได้อธิบายกลไกของหายนะ ไม่ได้ยืนยันกรอบเวลา และไม่ได้แปลว่าเหตุการณ์นั้น “น่าจะเกิด” แน่นอน นอกจากนี้ Hubinger ยังระบุว่าความเสี่ยงจากโมเดลที่มีอยู่ในปัจจุบันอยู่ในระดับต่ำ ความกังวลของเขามุ่งไปที่ระบบในอนาคตที่อาจมีความสามารถสูงกว่ามาก รวมถึงกรณีที่ AI ใช้ความสามารถของตนช่วยสร้าง AI ที่ฉลาดกว่าเดิม หรือการพัฒนาตัวเองแบบวนซ้ำ (recursive self-improvement) 210

อย่างไรก็ดี คำพูดนี้มีนัยสำคัญเพราะมาจากผู้ที่นำงานด้าน alignment ของแล็บ AI แนวหน้ารายใหญ่ ประเด็นหลักจึงไม่ใช่แค่ตัวเลขที่สะเทือนใจ แต่คือช่องว่างระหว่างการเร่งขีดความสามารถของ AI กับความมั่นใจว่าเราจะควบคุมระบบเหนือมนุษย์ให้อยู่ใต้การกำกับของมนุษย์ได้ 12

เหตุใดจึงตอกย้ำคำเตือนของ Jacob Coxon

Coxon ซึ่งเคยทำงานทั้งที่ OpenAI และ Anthropic ลาออกพร้อมวิจารณ์ว่าทั้งสองบริษัทไม่ได้ดำเนินการอย่างรับผิดชอบ และกำลังแข่งกันมุ่งสู่ superintelligence ที่พัฒนาตัวเองได้ Hubinger ออกมาสนับสนุนสาระสำคัญของคำกล่าวที่ว่าผู้สร้างระบบเหล่านี้พิจารณาความเป็นไปได้ของผลลัพธ์ระดับการสูญพันธุ์อย่างจริงจัง 23

แน่นอนว่านี่ไม่ได้พิสูจน์ว่าพนักงานทุกคนมีความเห็นเดียวกัน และไม่ได้ทำให้คำบอกเล่าของ Coxon กลายเป็นการประเมินที่ตรวจสอบอิสระแล้วสำหรับทั้งสองบริษัท แต่การยืนยันจากผู้นำงาน alignment ที่ยังทำงานอยู่ ทำให้ยากจะปัดคำวิจารณ์ดังกล่าวทิ้งว่าเป็นเพียงความไม่พอใจส่วนตัวของอดีตพนักงาน 12

ส่วนความเห็นของ Samuel Marks ก็ควรอ่านด้วยความระมัดระวังในแบบเดียวกัน รายงานระบุว่าเขากล่าวว่านักพัฒนา AI เชื่อว่าเทคโนโลยีของตนอาจนำไปสู่การสูญพันธุ์ของมนุษย์หรือผลลัพธ์ร้ายแรงในระดับใกล้เคียงกัน แต่สิ่งนี้เป็นมุมมองจากคนในวงการ ไม่ใช่หลักฐานว่าบริษัทใดบริษัทหนึ่งมีการประเมินความเสี่ยงร่วมกันทั้งองค์กร 5

แก่นของข้อถกเถียงคือการกำกับดูแลท่ามกลางความไม่แน่นอน

ประเด็นนี้มักถูกย่อให้เหลือแค่ “ฝ่ายกลัว AI” ปะทะ “ฝ่ายมองโลกในแง่ดีต่อ AI” แต่คำถามที่ใช้ได้จริงกว่าคือ: หากผลเสียอาจกระทบคนทั่วโลกและย้อนกลับไม่ได้ แม้โอกาสเกิดกับกรอบเวลาจะยังไม่แน่นอน เราควรกำหนดมาตรการป้องกันระดับใดก่อนอนุญาตให้พัฒนาต่อ

คำพูดของ Hubinger ทำให้ประเด็นต่อไปนี้เด่นชัดขึ้น

• Alignment ยังไม่ใช่ปัญหาที่แก้ได้แล้ว การที่แล็บพยายามอย่างเต็มที่ ไม่เท่ากับมีวิธีที่พิสูจน์แล้วว่าสามารถควบคุมระบบที่เก่งกว่าปัจจุบันอย่างมากได้ 1
• การแข่งขันทำให้การชะลอโดยสมัครใจทำได้ยาก Coxon วิจารณ์ว่าแรงกดดันทางการแข่งขันผลักบริษัทไปสู่ความสามารถที่สูงขึ้น แม้คำถามด้านความปลอดภัยสำคัญยังไม่มีคำตอบ 23
• ความปลอดภัยของโมเดลปัจจุบันไม่ใช่ทั้งหมดของปัญหา Hubinger แยกความเสี่ยงที่เขามองว่าต่ำในโมเดลปัจจุบัน ออกจากความกังวลต่อระบบอนาคตที่มีศักยภาพเหนือกว่าอย่างมาก 210
• การตรวจสอบจากภายนอกมีความสำคัญ สาธารณชน ลูกค้า และรัฐบาลประเมินกระบวนการความปลอดภัยภายในบริษัทได้ยาก หากไม่มีการทดสอบอิสระและการรายงานที่โปร่งใส

ทั้งหมดนี้ไม่ใช่หลักฐานว่าหายนะกำลังจะเกิดขึ้น แต่เป็นปัญหาด้านธรรมาภิบาลที่อาจยิ่งแก้ยาก หากปล่อยให้ระบบมีความสามารถอันตรายไปก่อน

ประเด็นความโปร่งใสยิ่งเพิ่มแรงกดดัน

มีรายงานว่า Anthropic ไม่ได้นำโมเดลล่าสุดส่งให้ UK AI Safety Institute ของสหราชอาณาจักรทดสอบก่อนเปิดตัว อย่างไรก็ตาม ควรระวังในการตีความ เพราะข้อมูลที่มีเป็นรายงานข่าว ไม่ใช่ข้อสรุปสาธารณะที่ยืนยันโดย Anthropic หรือรัฐบาลสหราชอาณาจักร 10

ถึงอย่างนั้น ข้อกล่าวหาดังกล่าวก็สะท้อนเหตุผลที่คนจำนวนมากสงสัยต่อคำมั่นด้านความปลอดภัยแบบสมัครใจ เมื่อผู้นำด้านความปลอดภัยของบริษัทเองยอมรับว่ายังมีโจทย์ alignment ที่แก้ไม่ตก ผู้สังเกตการณ์ภายนอกย่อมถามได้ว่ามีการทดสอบอะไรบ้าง ใครเป็นผู้ประเมิน เปิดเผยผลมากน้อยเพียงใด และความสามารถระดับใดที่จะทำให้ต้องเพิ่มมาตรการควบคุม

“ชะลออย่างปลอดภัย” อาจหมายถึงอะไร

การเรียกร้องให้ “ชะลอ” ไม่จำเป็นต้องหมายถึงหยุดงานวิจัยหรือการใช้งาน AI ทุกประเภทอย่างถาวร ข้อเสนอเชิงนโยบายคือควรมีด่านตรวจที่บังคับใช้ได้ ก่อนระบบจะข้ามเกณฑ์ความสามารถที่ส่งผลร้ายแรงได้มาก

มาตรการที่อาจพิจารณา ได้แก่

• การประเมินความสามารถและความปลอดภัยก่อนนำไปใช้งาน โดยผู้ประเมินอิสระ
• ข้อกำหนดให้รายงานเหตุร้ายแรงและความสามารถที่อาจก่ออันตรายอย่างมีนัยสำคัญ
• เกณฑ์ที่ชัดเจนว่าเมื่อใดผู้พัฒนาต้องยกระดับความมั่นคงและโครงสร้างกำกับดูแล
• การตรวจสอบที่ไม่อาศัยเพียงคำรับรองจากบริษัทผู้พัฒนา
• ความร่วมมือระหว่างประเทศ เพื่อลดแรงกดดันที่ทำให้บริษัทหรือประเทศหนึ่งต้องลดมาตรฐานความปลอดภัยเพื่อแข่งกับผู้อื่น

เหตุผลคือ หากความน่าจะเป็นยังไม่ชัด แต่ผลเสียที่เป็นไปได้รุนแรงมาก มาตรการคุ้มครองควรพิสูจน์ให้เห็นก่อนเกิดการสูญเสียการควบคุม ไม่ใช่รอแก้ไขภายหลัง

สิ่งที่คำพูดนี้เปิดเผย

โพสต์ของ Hubinger เผยให้เห็นความตึงเครียดแกนกลางของวงการ AI แนวหน้า: ผู้พัฒนาชั้นนำอาจยอมรับต่อสาธารณะว่าความเสี่ยงระยะยาวรุนแรง แต่ยังคงพัฒนาความสามารถที่จะทำให้ความเสี่ยงนั้นเร่งด่วนยิ่งขึ้น 12

มันไม่ได้ตัดสินว่าความเสี่ยง AI ระดับหายนะมีโอกาสเท่าใด และไม่ควรถูกนำเสนอเสมือนเป็นคำพยากรณ์ทางการของ Anthropic อย่างไรก็ตาม มันทำให้ข้อถกเถียงเรื่อง alignment มีความเป็นรูปธรรมมากขึ้น คำถามจึงไม่ใช่เพียง AI ขั้นสูง “อาจ” อันตรายหรือไม่ แต่คือบริษัทและรัฐบาลจะแสดงหลักฐานอิสระ กติกาที่บังคับใช้ได้ และความร่วมมือระหว่างประเทศได้หรือไม่ ก่อนที่ระบบซึ่งกำลังถกเถียงกันจะมีอำนาจเกินกว่าจะกำกับอย่างปลอดภัย 110