Andrew Ng โต้คำเตือน AI อาจทำมนุษย์สูญพันธุ์ ชี้ควรแก้ปัญหาด้วยวิศวกรรม ไม่ใช่ชะลอทั้งอุตสาหกรรม

ในบทสัมภาษณ์กับ Bloomberg TV เมื่อวันที่ 17 กันยายน Andrew Ng ผู้บุกเบิกด้านปัญญาประดิษฐ์ กล่าวว่า คำเตือนว่า AI อาจนำไปสู่การสูญพันธุ์ของมนุษย์นั้นเป็นเรื่อง “นิยายวิทยาศาสตร์มากกว่าวิทยาศาสตร์” เขาไม่ได้ปฏิเสธว่าระบบ AI มีความไม่แน่นอน แต่เห็นว่านั่นคือปัญหาวิศวกรรมที่ต้องบริหารจัดการ ไม่ใช่เหตุผลให้หยุดหรือชะลอการพัฒนา AI ในวงกว้าง 10

Ng กังวลอะไรกับการพูดถึงวันสิ้นโลกของ AI

Ng มองว่าวาทกรรมเรื่องความเสี่ยงระดับสูญพันธุ์อาจทำให้สังคมละสายตาจากประโยชน์สูงสุดที่ AI สามารถสร้างได้ เขายังชี้ว่าในวัฏจักรเทคโนโลยีก่อนหน้า อุตสาหกรรมเคยปลุกความกลัวต่อผลเสียร้ายแรงเพื่อสร้างความสนใจและช่วยกำหนดทิศทางกฎระเบียบ 810

นัยของข้อกังวลนี้คือ หากกติกาเน้นกำกับเฉพาะโมเดล AI ระดับแนวหน้า (frontier AI) ที่ใหญ่และทรงพลังที่สุด กฎดังกล่าวอาจเอื้อบริษัทห้องแล็บรายใหญ่ซึ่งมีเงินทุนพอจะรับภาระต้นทุนด้านการปฏิบัติตามกฎได้ มากกว่าผู้เล่นรายเล็ก 810

อย่างไรก็ดี จุดยืนของ Ng ไม่ใช่การละเลยความปลอดภัย เขาเสนอให้มุ่งกับความเสี่ยงที่มองเห็นและตรวจสอบได้ โดยเฉพาะภัยด้านความมั่นคงปลอดภัยไซเบอร์ ผ่านการทดสอบอย่างเข้มงวด มาตรการป้องกัน และแนวปฏิบัติทางวิศวกรรม เขายอมรับว่า AI จะไม่มีวันคาดเดาได้สมบูรณ์แบบ แต่เชื่อว่าความน่าเชื่อถือในระดับที่ยอมรับได้สร้างขึ้นได้ด้วยการประเมินระบบ ราวป้องกัน และการปรับปรุงซ้ำอย่างต่อเนื่อง 10

Ng ยังเตือนว่า การชะลอการพัฒนา AI แบบกว้างขวางอาจทำให้ความก้าวหน้าด้านความปลอดภัยช้าลงไปด้วย 10

ต่างจากกลุ่มที่เรียกร้องให้ชะลอ AI อย่างไร

กลุ่มที่ต้องการลดความเร็วของการพัฒนาโมเดลขั้นสูงไม่ได้เรียกร้องให้ยุติการวิจัย AI แต่เชื่อว่าความสามารถของระบบกำลังเพิ่มเร็วเกินกว่าการวิจัยความปลอดภัยและการกำกับดูแลจะตามทัน

• Jacob Coxon อดีตนักวิจัยของ OpenAI และ Anthropic ลาออกจาก Anthropic โดยเตือนว่าการพัฒนาที่เร็วและควบคุมไม่เพียงพอ โดยเฉพาะการมุ่งสู่ระบบที่พัฒนาตัวเองได้ อาจก่อความเสี่ยงหายนะ เขาเรียกร้องให้ชะลอความเร็วลง 214
• Dario Amodei ซีอีโอ Anthropic เสนอให้ชะลอการยกระดับความสามารถของโมเดลระดับแนวหน้า เพื่อซื้อเวลาสำหรับจัดการความเสี่ยง แผนของเขามีกรอบสามส่วน รวมถึงการประเมินโดยหน่วยงานอิสระสำหรับโมเดลขั้นสูง 36
• Sam Altman ซีอีโอ OpenAI สนับสนุนแก่นหลักของแนวคิดชะลอและเพิ่มราวป้องกัน ท่ามกลางความกังวลว่าอุตสาหกรรมอาจกำลังเข้าใกล้ระบบที่มนุษย์ควบคุมไม่ได้ 19
• Geoffrey Hinton ผู้ได้รับฉายา “godfather of AI” เห็นว่ามีโอกาสสำคัญที่ AI จะหลุดจากการควบคุมของมนุษย์ เขาสนับสนุนการพัฒนาที่ช้าลงและการทดสอบก่อนปล่อยผลิตภัณฑ์ โดยมองว่ารัฐบาลขยับช้าเกินไป 16

ความต่างหลักจึงอยู่ที่ การประเมินความน่าจะเป็นและลำดับความสำคัญเชิงนโยบาย ฝั่ง Coxon, Amodei, Altman และ Hinton เห็นว่าความเสี่ยงจากการสูญเสียการควบคุมมีน้ำหนักมากพอที่จะต้องจงใจลดความเร็วของโมเดลระดับแนวหน้า ส่วน Ng มองคำกล่าวเรื่องการสูญพันธุ์ว่ายังเป็นข้อคาดเดา และให้ความสำคัญกับการแก้ปัญหาใกล้ตัวที่สังเกตได้ผ่านวิศวกรรมความปลอดภัยตามปกติ 31016

ผู้คัดค้านการชะลอ: เห็นพ้องกับ Ng แต่ด้วยเหตุผลต่างกัน

Ng ไม่เห็นด้วยกับการชะลอ AI ทั้งอุตสาหกรรม ซึ่งทำให้จุดยืนของเขาใกล้กับกลุ่มที่ต่อต้านข้อจำกัดใหม่บางส่วน แต่เหตุผลไม่ได้เหมือนกันทั้งหมด

• Jensen Huang ซีอีโอ Nvidia คัดค้านกฎหมายเฉพาะด้าน AI ฉบับใหม่ และไม่เห็นด้วยกับการชะลอในวงกว้าง 517
• Mark Zuckerberg ซีอีโอ Meta คัดค้านการพักการพัฒนา AI ทั้งอุตสาหกรรม โดยมองว่าแรงจูงใจของตลาดและการแข่งขันจะผลักดันให้บริษัททำโมเดลให้ปลอดภัย 7
• ประธานาธิบดี Donald Trump ปฏิเสธข้อเรียกร้องให้ชะลอ AI เรียกคำเตือนเรื่องอันตรายจาก AI ว่าเป็น “hoax” และระบุว่าสหรัฐฯ มีเครื่องมือที่มีอยู่แล้วสำหรับกำกับหรือดำเนินคดีกับการกระทำผิด เขาเน้นการรักษาความสามารถในการแข่งขันของสหรัฐฯ โดยเฉพาะกับจีน 257
• เจ้าหน้าที่จีน ก็แสดงท่าทีคัดค้านเสียงเรียกร้องให้ชะลอ AI ระดับแนวหน้า สะท้อนการไม่เห็นด้วยกับการพักการพัฒนาระดับโลกที่ถูกกำหนดจากภายนอก 11

สำหรับ Ng เหตุผลเป็นเชิงเทคนิคและเชิงวิศวกรรม: ควรรับมือความผิดพลาดจริงด้วยการทดสอบและการควบคุมที่เหมาะสม ขณะที่ Huang, Zuckerberg, Trump และฝ่ายจีนให้น้ำหนักกับนวัตกรรม การแข่งขัน และความกังขาต่อข้อจำกัดเพิ่มเติมมากกว่า 571011

ส่วนจุดยืนเฉพาะของ Aidan Gomez และ Steve Eisman ต่อการชะลอ AI ความปลอดภัย กฎระเบียบ และธรรมาภิบาลระหว่างประเทศ ยังไม่มีข้อมูลเพียงพอในรายงานที่ให้มา จึงไม่ควรสรุปแทนทั้งสองฝ่ายเกินกว่าหลักฐานที่มี