แซม อัลต์แมนเตือน 2 ความเสี่ยง AI: มนุษย์อาจคุมไม่อยู่ หรืออำนาจอาจกระจุกตัว

AI ที่ทรงพลังอาจสร้างปัญหาแก่สังคมได้ 2 ทางที่แตกต่างกัน ตามคำเตือนของแซม อัลต์แมน ซีอีโอ OpenAI: มนุษย์อาจสูญเสียการควบคุมระบบที่มีความสามารถสูงขึ้นเรื่อย ๆ หรืออำนาจในการควบคุม AI อาจกระจุกอยู่ในมือคนเพียงไม่กี่ราย คำเตือนนี้ทำให้เรื่องความปลอดภัยเชิงเทคนิคและการกำกับดูแลเชิงอำนาจเป็นประเด็นเดียวกัน เพราะ AI ที่ปลอดภัยไม่ได้หมายถึงแค่โมเดลทำอะไรได้บ้าง แต่รวมถึงใครเป็นผู้ชี้นำมันด้วย 1316

2 เส้นทางที่อัลต์แมนบอกว่าต้องหลีกเลี่ยง

หนึ่ง: มนุษย์สูญเสียการควบคุม อัลต์แมนเตือนว่า มนุษยชาติอาจ “สูญเสียการควบคุมอนาคตให้ AI” ซึ่งเป็นผลลัพธ์ที่เขามองว่ายอมรับไม่ได้ หลักคิดของเขาคือ AI ต้องรับใช้ผู้คน ไม่ใช่ทำให้ผู้คนต้องพึ่งพาหรืออยู่ใต้ระบบที่กำกับดูแลไม่ได้อย่างเพียงพอ 216

สอง: อำนาจ AI กระจุกตัว เขายังเตือนถึงโลกที่ AI ซึ่งทรงพลังอย่างยิ่งอยู่ภายใต้การควบคุมของบุคคล บริษัท หรือประเทศเดียว แล้วถูกใช้เพื่อยัดเยียดโลกทัศน์ของผู้ควบคุมให้ทุกคน อัลต์แมนระบุว่าผลลัพธ์เช่นนั้นอาจเป็นภาพอนาคตแบบดิสโทเปียอย่างรุนแรง 113

ความเสี่ยงทั้งสองเกี่ยวพันกัน แต่ไม่ใช่เรื่องเดียวกัน ข้อแรกว่าด้วยความสามารถของมนุษย์ในการทำความเข้าใจ จำกัด และสั่งหยุดระบบอันทรงพลัง ส่วนข้อหลังคือความเสี่ยงที่ระบบซึ่งอาจยังควบคุมได้ในทางเทคนิค กลับถูกนำไปใช้โดยผู้มีอำนาจที่แทบไร้การตรวจสอบถ่วงดุล

อัลต์แมนสนับสนุนมาตรการอะไรบ้าง

จุดยืนของอัลต์แมนไม่ใช่การหยุดพัฒนา AI โดยสิ้นเชิง เขาเสนอว่า ความสามารถของโมเดลไม่ควรก้าวนำงานด้านการทำให้ AI สอดคล้องกับเป้าหมายมนุษย์ (alignment) และการติดตามตรวจสอบ อีกทั้งแรงกดดันจากการแข่งขันไม่ควรถูกใช้เป็นข้ออ้างสำหรับการปล่อยระบบออกใช้อย่างไม่รอบคอบ 213

มาตรการที่เขาเน้นมีดังนี้

• งาน alignment และการติดตามตรวจสอบต้องพัฒนาให้ทันความสามารถของโมเดล นักพัฒนาต้องประเมินและควบคุมสิ่งที่ระบบทำได้อย่างมีความหมาย แม้ระบบจะเก่งขึ้นมากก็ตาม 213
• AI ต้องรับใช้ผู้คน นี่คือเป้าหมายหลักที่อยู่เบื้องหลังคำเตือนเรื่องการสูญเสียการควบคุม 216
• ข้อกำหนดระดับรัฐบาลกลางสหรัฐที่ใช้มาตรฐานเดียวกันสำหรับ AI แนวหน้า อัลต์แมนสนับสนุนกรอบกติกาสำหรับจัดการความเสี่ยงของ AI ระดับแนวหน้า แทนการพึ่งพาคำมั่นใจสมัครใจที่กระจัดกระจายเพียงอย่างเดียว 1316
• การตรวจสอบโดยอิสระ เขามองว่าผู้ตรวจสอบอิสระเป็นกลไกที่น่าสนใจในการสร้างความเชื่อมั่นสาธารณะต่อบริษัทที่พัฒนาโมเดลซึ่งมีขีดความสามารถเพิ่มขึ้น 16

ในทางปฏิบัติ นี่หมายถึงระบบที่ทรงพลังที่สุดควรต้องแบกรับภาระการพิสูจน์ความปลอดภัยมากขึ้น มาตรการป้องกันควรได้รับการทดสอบและมีความน่าเชื่อถือก่อนตัดสินใจนำไปใช้งาน ไม่ใช่ค่อยมาแก้ไขเมื่อความสามารถล้ำหน้าไปแล้ว

คำเตือนจาก Anthropic ทำให้ข้อถกเถียงเข้มข้นขึ้นอย่างไร

ในสัปดาห์เดียวกัน เจคอบ ค็อกซอน อดีตนักวิจัยของ Anthropic เตือนว่าห้องปฏิบัติการชั้นนำกำลังแข่งกันพัฒนา AI ที่ปรับปรุงตัวเองได้ โดยเขามองว่าเป็นการ “เดิมพันด้วยชีวิตของเรา” รายงานเกี่ยวกับการลาออกของเขาระบุว่า เขาเชื่อว่านักวิจัยผู้สร้างระบบเหล่านี้กังวลจริงจังว่า AI อาจทรงพลังเกินกว่ามนุษย์จะควบคุมได้ 17

ถ้อยคำของค็อกซอนตรงไปตรงมากว่าอัลต์แมน แต่แก่นความกังวลทับซ้อนกัน คือความก้าวหน้าด้านความสามารถอาจเร็วเกินกว่าความสามารถในการกำกับดูแลระบบได้อย่างน่าเชื่อถือ รายงานยังกล่าวถึงการแลกเปลี่ยนความเห็นต่อสาธารณะซึ่งอีวาน ฮูบิงเจอร์ ผู้นำด้าน alignment ของ Anthropic ประเมินเป็นการส่วนตัวว่ามีโอกาสมากกว่า 10% ที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายใน 10 ปี และยอมรับว่ายังไม่มีคำตอบสมบูรณ์สำหรับปัญหา alignment ของปัญญาประดิษฐ์เหนือมนุษย์ ตัวเลขนี้เป็นการประเมินความเสี่ยงส่วนบุคคล ไม่ใช่คำพยากรณ์ที่พิสูจน์แล้วหรือฉันทามติทางวิทยาศาสตร์ 17

ประเด็นสำคัญจึงไม่ใช่ว่าเส้นตายการสูญพันธุ์ใดได้รับการพิสูจน์แล้ว เพราะยังไม่ได้พิสูจน์ แต่คือแม้นักวิจัยที่อยู่ใกล้การพัฒนา AI แนวหน้าก็กำลังถกเถียงกันต่อสาธารณะว่าแนวปฏิบัติด้านความปลอดภัยในปัจจุบันก้าวทันระบบที่กำลังสร้างอยู่หรือไม่

ข้อขัดแย้งจริงของอุตสาหกรรม: ความสามารถมาก่อน หรือความปลอดภัยมาก่อน

หลายคนอาจมองว่าเป็นการปะทะกันระหว่างฝ่ายเร่ง AI กับฝ่ายชะลอ AI แต่กรอบนี้ไม่ครบถ้วน เพราะคนส่วนใหญ่ยังเห็นว่า AI มีศักยภาพให้ประโยชน์อย่างมาก ข้อพิพาทจริงอยู่ที่ ลำดับก่อนหลังและการบังคับใช้ได้จริง

ฝ่ายหนึ่งเห็นว่าการพัฒนา AI แนวหน้าควรมีจังหวะที่ทำให้งานวิจัยด้านความปลอดภัย การประเมิน การกำกับดูแล และการรับมือการนำไปใช้ในทางที่ผิด มีเวลาพัฒนาให้ทัน ดาริโอ อโมเดอี ซีอีโอ Anthropic เรียกร้องให้ชะลออัตราการเพิ่มความสามารถของโมเดล และเสนอแนวทาง เช่น ผู้ประเมินอิสระที่ทำงานเข้าถึงภายในบริษัท การประสานงานระหว่างห้องปฏิบัติการ AI แนวหน้า และความร่วมมือระหว่างประเทศ

แต่อีกด้านหนึ่ง แรงกดดันจากการแข่งขันเกิดขึ้นจริง บริษัทและรัฐบาลกังวลว่าการเคลื่อนตัวช้ากว่าคู่แข่งอาจหมายถึงการเสียเปรียบทางเศรษฐกิจหรือภูมิรัฐศาสตร์ อย่างไรก็ดี อัลต์แมนโต้ว่า การแข่งขันไม่อาจเป็นเหตุผลให้ปล่อยให้ความสามารถของ AI แซงหน้า alignment และการติดตามตรวจสอบได้ 13

Reuters รายงานว่านักวิจัยบางส่วนเห็นว่าความสามารถของโมเดลมาถึงเร็วกว่าที่คาด ขณะที่มนุษย์มองเห็นการทำงานภายในและอาจควบคุมระบบเหล่านี้ได้น้อยลง นั่นทำให้คำถามเชิงนโยบายเร่งด่วนขึ้น: ห้องปฏิบัติการควรเดินหน้าปล่อยโมเดลที่ทำงานได้อัตโนมัติมากขึ้นระหว่างที่มาตรการป้องกันกำลังตามให้ทัน หรือควรต้องแสดงก่อนว่ามาตรการเหล่านั้นเพียงพอแล้ว

นัยต่อการกำกับดูแล AI

คำเตือน 2 ด้านของอัลต์แมนชี้ว่า การกำกับดูแล AI แนวหน้าต้องรับมือทั้ง การควบคุมเชิงเทคนิค และ การกระจายอำนาจ การประเมินโมเดลที่ดีขึ้น งานวิจัย alignment การติดตามตรวจสอบ และการกำกับจากภายนอก ล้วนตอบโจทย์ปัญหาแรก ส่วนกติกาที่สอดคล้องกัน ความโปร่งใส และข้อจำกัดต่อการควบคุมฝ่ายเดียว ตอบโจทย์ปัญหาที่สอง

คำทำนายหายนะหรือกรอบเวลาที่แม่นยำไม่ควรถูกปฏิบัติราวกับเป็นข้อเท็จจริงที่ยุติแล้ว แต่ความรุนแรงของความล้มเหลวที่เป็นไปได้ คือเหตุผลที่ทำให้ข้อเรียกร้องเรื่องการประเมินที่เข้มแข็ง การตรวจสอบจากภายนอก และข้อกำหนดด้านความปลอดภัย เปลี่ยนจากประเด็นเฉพาะกลุ่มมาเป็นคำถามหลักของอุตสาหกรรม AI 13