เมื่อการทำให้ AI ปลอดภัย กลายเป็นงานที่กดดันคนทำงานจนรับไม่ไหว

รายงานเรื่องนักวิจัย AI ลาป่วย ขอรับคำปรึกษา หรือลาออก ไม่ได้หมายความว่ามีหลักฐานว่าโลกกำลังเผชิญหายนะจาก AI ในทันที แต่สะท้อนแรงปะทะระหว่าง ภารกิจด้านความปลอดภัย กับ แรงผลักจากการแข่งขันเพื่อปล่อยโมเดลที่ทรงพลังยิ่งขึ้น

สำหรับผู้ที่มีหน้าที่ทดสอบโมเดล AI ระดับแนวหน้า ความกังวลไม่ใช่เรื่องนามธรรม พวกเขาต้องค้นหาว่าโมเดลอาจถูกใช้ลดอุปสรรคต่อการโจมตีไซเบอร์หรือการใช้ในทางชีวภาพอันตรายได้หรือไม่ ขณะที่กำหนดเวลาทดสอบกระชั้นและแรงจูงใจทางธุรกิจยังเดินหน้าอยู่ หากพบความเสี่ยงแต่ไม่มีอำนาจเพียงพอจะชะลอการปล่อยระบบ ก็อาจนำไปสู่ความรู้สึกไร้อำนาจ ความขัดแย้งทางศีลธรรม และภาวะหมดไฟได้

มีรายงานลาป่วยและขอคำปรึกษา

แหล่งข่าวที่อ้างถึงรายงานของ Financial Times ระบุว่า บุคลากรหลายคนใน UK AI Safety Institute (AISI) ซึ่งเป็นหน่วยงานสหราชอาณาจักรที่ประเมินโมเดล AI ระดับแนวหน้าอย่างอิสระ ได้ลาป่วยและเข้ารับคำปรึกษาเพราะความทุกข์ทางใจ รายงานยังกล่าวถึงขวัญกำลังใจที่ต่ำและภาวะหมดไฟจากตารางการทดสอบที่ตึงตัว 15

ส่วนในห้องปฏิบัติการ AI รายใหญ่ เช่น Anthropic, OpenAI และ Google DeepMind มีรายงานถึงความวิตกกังวลในหมู่นักวิจัยเช่นกัน อย่างไรก็ดี หลักฐานสาธารณะที่มีอยู่ยังไม่เพียงพอจะสรุปว่าปรากฏการณ์นี้แพร่หลายเพียงใดในแต่ละองค์กร

ความเสี่ยงที่กังวล: ใกล้ตัว และอาจรุนแรงมาก

ความกลัวมีทั้งระยะใกล้และระยะยาว ได้แก่

• AI อาจทำให้ผู้ไม่หวังดีเข้าถึงความสามารถในการโจมตีไซเบอร์ได้ง่ายขึ้น
• โมเดลอาจเอื้อการใช้ความรู้ด้านชีววิทยาเพื่อสร้างอันตราย
• ระบบที่มีความอัตโนมัติสูงขึ้นอาจก้าวพ้นการกำกับดูแลที่มีความหมายของมนุษย์

Jacob Coxon อดีตนักวิจัยที่เคยทำงานด้านการฝึกโมเดลก่อนการใช้งานจริง (pretraining) ทั้งที่ OpenAI และ Anthropic ชี้ถึงภัยคุกคามทางชีวภาพและอาวุธไซเบอร์ที่ขับเคลื่อนด้วย AI ว่าเป็นเส้นทางหนึ่งสู่ความเสียหายระดับหายนะ 15 หลังลาออกจาก Anthropic เขากล่าวกับ BBC ว่าคนที่ทำงานในแล็บชั้นนำ “หวาดกลัวอย่างแท้จริง” ต่อความเร็วของความก้าวหน้าและความหมายของมันต่อมนุษยชาติ 9 การลาออกและคำเตือนของเขายังได้รับความสนใจอย่างกว้างขวาง 14

ทำไมงานด้านความปลอดภัยจึงก่อความกดดันทางศีลธรรม

นักวิจัยด้านความปลอดภัยไม่ได้เพียงเฝ้าดูความเสี่ยงจากภายนอก หลายคนมีส่วนประเมิน ฝึก หรือช่วยเตรียมระบบที่จะถูกนำออกสู่สาธารณะโดยตรง นั่นทำให้เกิดคำถามส่วนบุคคลที่หนักหน่วงว่า หากระบบสร้างความเสียหายขึ้นในอนาคต ตนมีส่วนรับผิดชอบเพียงใด

ปัญหายิ่งรุนแรงเมื่อการระบุอันตรายไม่ได้แปลว่าสามารถหยุดการปล่อยโมเดลได้ทันที ในสภาพแวดล้อมที่บริษัทแข่งกันพัฒนาความสามารถ ความรู้สึกว่า “เห็นปัญหาแต่เปลี่ยนทิศทางไม่ได้” อาจกลายเป็นความอ่อนล้าทางใจและบาดแผลทางศีลธรรม

คำตอบจึงต้องเกินกว่าการตัดสินใจของคนหรือบริษัทเดียว

การถกเถียงในวงวิชาการและนโยบายชี้ว่า ไม่มีพนักงานหรือห้องแล็บใดแก้ปัญหา “การแข่งขัน” ได้ลำพัง เวทีของ Stanford HAI สรุปว่าการชะลอการพัฒนาความสามารถ AI อย่างกว้างขวางทำได้ยาก แต่เสนอให้มีการประเมินอิสระโดยภาครัฐหรือหน่วยงานภายนอกที่มีคุณสมบัติเหมาะสมเป็นส่วนมาตรฐานของระบบนิเวศ AI 3

ผู้นำอย่าง Dario Amodei แห่ง Anthropic, Sam Altman แห่ง OpenAI และ Demis Hassabis แห่ง Google DeepMind ต่างแสดงท่าทีสนับสนุนการชะลอหรือกำหนดจังหวะการพัฒนา AI ระดับแนวหน้าในระดับที่ต่างกัน 2 แต่ก็มีเสียงวิจารณ์ว่า “การหยุด AI” ที่ออกแบบหรือควบคุมโดยบริษัทเจ้าตลาดเอง อาจยิ่งรวมศูนย์อำนาจไว้กับบริษัทเหล่านั้นและกีดกันคู่แข่งรายเล็ก 11

ดังนั้น ตัวชี้วัดความน่าเชื่อถือไม่ใช่เพียงถ้อยแถลง แต่คือการกระทำที่ตรวจสอบได้ เช่น การเลื่อนเปิดตัวเมื่อพบความเสี่ยง การตรวจสอบโดยอิสระ เกณฑ์ความปลอดภัยที่บังคับใช้ได้ การคุ้มครองผู้แจ้งเบาะแส และการยอมรับข้อจำกัดจากภายนอก

AI ทำวิจัย AI ได้เองมากขึ้น แต่ยังไม่ถึงขั้นพัฒนาตัวเองวนซ้ำ

อีกเหตุผลที่ทำให้ผู้คนรู้สึกว่าสถานการณ์ควบคุมยากขึ้น คือ AI เริ่มทำงานบางส่วนของการวิจัยและวิศวกรรมได้เองมากขึ้น ข้อกังวลไม่ใช่ว่าระบบทำ “การพัฒนาตนเองแบบวนซ้ำ” สำเร็จแล้ว เพราะยังไม่เกิดขึ้น 6 แต่เป็นไปได้ว่าการทำงานอัตโนมัติในบางขั้นตอนจะทำให้วงจรพัฒนาเร็วเกินกว่ามนุษย์จะเข้าใจ ทดสอบ และกำกับได้ทัน

รายงานของ CSET ระบุว่าการทำให้การวิจัยและพัฒนา AI เป็นอัตโนมัติมากขึ้นอาจเร่งความก้าวหน้าด้านความสามารถ และบั่นทอนความสามารถของมนุษย์ในการทำความเข้าใจและควบคุมระบบ 4 ขณะเดียวกัน งานวิจัยหนึ่งพบว่าเอเจนต์ AI สามารถทำงานวิศวกรรมสำหรับงานวิจัยได้มากโดยแทบไม่ต้องพึ่งมนุษย์ แต่ยังไม่สามารถสร้างความก้าวหน้าที่มีนัยสำคัญต่อคำถามวิจัยแบบปลายเปิดได้ 5

ท้ายที่สุด สิ่งที่เกิดขึ้นจึงเป็นสัญญาณของความตึงเครียดด้านจริยธรรมและสุขภาพใจในคนที่อยู่แนวหน้าของการพัฒนา AI มากกว่าจะเป็นหลักฐานยืนยันว่าเหตุการณ์ร้ายแรงที่สุดกำลังจะเกิดขึ้นแน่นอน ผู้ที่ลาป่วย ขอคำปรึกษา หรือลาออกกำลังสะท้อนความกังวลต่อการผสมกันของความสามารถที่เร่งขึ้น ความเสี่ยงแบบใช้ได้สองทาง แรงแข่งขัน และการควบคุมจากภายนอกที่ยังไม่เข้มแข็งพอ.