Andrew Ng ชี้ความกลัว AI ทำลายมนุษยชาติเป็น “ไซไฟ” และเรียกร้องให้โฟกัสความเสี่ยงจริง

Andrew Ng ไม่ได้บอกว่า AI ปลอดภัยไร้ความเสี่ยง แต่เขาไม่เห็นด้วยกับการใช้ภาพจำว่า AI จะทำให้มนุษยชาติสูญพันธุ์ในไม่ช้า เป็นแกนกลางของนโยบาย AI

ในการให้สัมภาษณ์กับ Bloomberg TV วันที่ 17 กันยายน ผู้ร่วมก่อตั้ง Google Brain เรียกคำเตือนลักษณะดังกล่าวว่า “เป็นไซไฟมากกว่าวิทยาศาสตร์” และเสนอให้มองความปลอดภัย AI เป็นโจทย์วิศวกรรม: ทดสอบระบบ สร้างมาตรการป้องกัน แล้วพัฒนาให้ดีขึ้นอย่างต่อเนื่อง 2

Ng พูดอะไรเกี่ยวกับความเสี่ยงระดับสูญพันธุ์

Ng ยอมรับว่าระบบ AI จะไม่อาจคาดการณ์ได้อย่างสมบูรณ์แบบเสมอไป แต่สำหรับเขา ความไม่สมบูรณ์นี้ไม่ได้เป็นเหตุผลพอที่จะต้องหยุดหรือชะลอการพัฒนา AI ในวงกว้าง เขาเชื่อว่าการทดสอบ การวางมาตรการป้องกัน และการทำงานเชิงวิศวกรรม สามารถทำให้ระบบปลอดภัยขึ้นได้ตามเวลา อีกทั้งการชะลอการพัฒนาโดยรวม อาจทำให้ความก้าวหน้าด้านความปลอดภัยช้าลงไปด้วย 2

ข้อเสนอของเขาจึงเริ่มจาก “จุดล้มเหลวที่สังเกตได้” มากกว่าสถานการณ์สูญพันธุ์ที่ยังเป็นสมมติฐาน

เหตุใดเขาจึงตั้งคำถามกับวาทกรรมวันสิ้นโลก

Ng กล่าวว่า คำเตือนเรื่องความเสี่ยงเชิงอัตถิภาวะของ AI อาจบั่นทอนการนำเทคโนโลยีไปสร้างประโยชน์สูงสุดแก่สังคม เขายังมองว่าอุตสาหกรรมเทคโนโลยีเคยปลุกกระแสความกลัวต่ออันตรายร้ายแรงของ AI ในช่วงแรกของกระแส AI บูม เพื่อเรียกความสนใจและมีอิทธิพลต่อการออกกฎกำกับดูแล 1

เขาไม่ได้เรียกร้องให้เลิกทำงานด้านความปลอดภัย แต่คัดค้านการปฏิบัติต่อข้ออ้างเรื่องการสูญพันธุ์ราวกับเป็นข้อสรุปทางวิทยาศาสตร์ หรือใช้เป็นเหตุผลให้หยุดพัฒนาเทคโนโลยีเป็นวงกว้าง

ความปลอดภัยแบบที่ Ng อยากให้เร่งทำ

แนวทางของ Ng คือการลดความเสี่ยงเชิงปฏิบัติ รายงานเกี่ยวกับการสัมภาษณ์ระบุว่าเขาให้ความสำคัญกับความมั่นคงไซเบอร์และมาตรการป้องกันที่เป็นรูปธรรม 5

ในทางปฏิบัติ แนวคิดนี้ครอบคลุมถึง

• การทดสอบอย่างเข้มงวด ก่อนเปิดใช้และระหว่างนำระบบไปใช้งาน
• มาตรการป้องกันหรือการ์ดเรล เพื่อลดรูปแบบความผิดพลาดที่ทราบอยู่แล้ว
• การปรับปรุงเชิงวิศวกรรมอย่างต่อเนื่อง เมื่อพบปัญหาใหม่
• การรับมือความเสียหายที่คาดการณ์ได้ รวมถึงความเสี่ยงด้านไซเบอร์ แทนการทุ่มความสนใจไปที่ภาพจำเรื่องการสูญพันธุ์ 25

กรอบคิดนี้ไม่ได้รับประกันการควบคุม AI ได้อย่างสมบูรณ์ แต่ชี้ว่าเทคโนโลยีที่มีประโยชน์สามารถทำให้เชื่อถือได้ในระดับยอมรับได้ ผ่านวงจรทดสอบ ประเมิน และแก้ไขซ้ำแบบเดียวกับงานวิศวกรรมสาขาอื่น

ต่างจากกลุ่มที่ต้องการชะลอ AI ระดับแนวหน้าอย่างไร

บุคคลสำคัญหลายรายเห็นตรงกันว่าความปลอดภัย AI ต้องได้รับความสำคัญมากขึ้น แต่พวกเขาเสนอให้ชะลอการเพิ่มขีดความสามารถของโมเดล AI ระดับแนวหน้า ซึ่งหมายถึงโมเดลที่ล้ำหน้าที่สุดในอุตสาหกรรม

Jacob Coxon: ประเมินอันตรายไว้สูงกว่ามาก

Jacob Coxon อดีตนักวิจัยของ Anthropic และ OpenAI ลาออกจาก Anthropic และเตือนว่าการพัฒนาอย่างรวดเร็วไปสู่ระบบที่ปรับปรุงตัวเองได้ อาจนำไปสู่หายนะ เขาเห็นว่าจำเป็นต้องชะลอการพัฒนา และต่อมาแสดงการสนับสนุนข้อเสนอของ Anthropic ที่ให้กำหนดจังหวะการพัฒนาอย่างระมัดระวัง 3343

Dario Amodei: ลดความเร็วเพื่อซื้อเวลาสร้างมาตรการคุ้มกัน

Dario Amodei ซีอีโอ Anthropic เรียกร้องให้บริษัท AI ชะลออัตราการยกระดับความสามารถของโมเดล เพื่อให้มีเวลาจัดการความเสี่ยง รวมถึงผ่านกรอบการทำงานที่ให้ผู้ประเมินอิสระเข้ามามีบทบาท 18

Sam Altman: สนับสนุนการกำหนดจังหวะของ AI ระดับแนวหน้า

Sam Altman ซีอีโอ OpenAI สนับสนุนหลักการพื้นฐานในข้อเสนอของ Amodei และระบุว่า OpenAI จะดำเนินหนึ่งในมาตรการคุ้มกันนั้น คือเปิดทางให้ผู้ประเมินภายนอกเข้าถึงข้อมูลอย่างมีนัยสำคัญเพื่อตรวจประเมินแนวปฏิบัติด้านความปลอดภัย 1924

Geoffrey Hinton: กังวลเรื่องมนุษย์อาจสูญเสียการควบคุม

Geoffrey Hinton กล่าวว่า มี “ความเสี่ยงอย่างมีนัยสำคัญ” ที่ AI อาจหลุดพ้นจากการควบคุมของมนุษย์ เขาสนับสนุนการชะลอความเร็ว รวมถึงมาตรการอย่างการทดสอบก่อนเปิดตัว และมองว่ารัฐบาลดำเนินการช้าเกินไป 20

ดังนั้น ความต่างหลักอยู่ที่ทั้งการประเมินความน่าจะเป็นและนโยบาย Coxon, Amodei, Altman และ Hinton เห็นว่าความเสี่ยงจากการสูญเสียการควบคุมมีน้ำหนักมากพอให้ต้องจงใจชะลอ AI ที่ก้าวหน้าที่สุด ขณะที่ Ng เห็นว่าคำกล่าวเรื่องการสูญพันธุ์ยังมีหลักฐานรองรับไม่เพียงพอ และควรเน้นความล้มเหลวที่ตรวจพบและแก้ได้จริง 21820

ไม่เห็นด้วยกับการชะลอ ไม่ได้แปลว่าเห็นด้วยกับทุกฝ่าย

การที่ Ng คัดค้านการชะลอ AI แบบครอบจักรวาล ไม่ได้หมายความว่าเหตุผลของเขาเหมือนกับผู้นำธุรกิจหรือการเมืองที่คัดค้านแนวทางเดียวกัน

• Jensen Huang: ซีอีโอ Nvidia กล่าวว่าอุตสาหกรรมไม่จำเป็นต้องมีกฎหมายหรือกฎระเบียบใหม่ 53
• Mark Zuckerberg: ซีอีโอ Meta เห็นว่าการชะลอทั้งอุตสาหกรรมไม่จำเป็น เพราะการแข่งขันและแรงจูงใจของตลาดจะผลักดันให้บริษัททำโมเดลให้ปลอดภัย 55
• ประธานาธิบดี Donald Trump: Trump เรียกความกลัวว่า AI จะควบคุมไม่ได้ว่าเป็น “เรื่องหลอกลวง” และระบุว่าสหรัฐฯ มีเครื่องมืออยู่แล้วในการกำกับและดำเนินคดีกับบริษัท AI 4950
• เจ้าหน้าที่จีน: โฆษกกระทรวงการต่างประเทศจีนแสดงจุดยืนคัดค้านการเรียกร้องให้ชะลอการพัฒนา AI ระดับแนวหน้า 52

แม้ทั้งหมดจะนำไปสู่ข้อสรุปคล้ายกันเรื่องการไม่หยุดพัฒนา AI ในวงกว้าง แต่เหตุผลต่างกันอย่างชัดเจน: Ng เน้นความเสี่ยงที่วัดได้และการสร้างระบบควบคุมที่ดีขึ้น ขณะที่ Huang, Zuckerberg, Trump และเจ้าหน้าที่จีน เน้นการคัดค้านข้อจำกัดใหม่ แรงจูงใจทางตลาด หรือการแข่งขันและยุทธศาสตร์ในระดับประเทศในระดับที่ต่างกัน 250525355

จุดร่วมที่แคบลงมา: ความเสี่ยงไซเบอร์

การถกเถียงไม่ได้แบ่งง่าย ๆ ระหว่างคนที่ใส่ใจความปลอดภัยกับคนที่ไม่ใส่ใจ Aidan Gomez ซีอีโอ Cohere กล่าวว่าโมเดล AI กลายเป็นอาวุธไซเบอร์ที่ทรงพลัง เพราะสามารถค้นหาและใช้ประโยชน์จากช่องโหว่ได้ในระดับขนาดใหญ่ 62 ประเด็นนี้ใกล้กับข้อเสนอของ Ng ที่ให้จัดการความเสี่ยงไซเบอร์ที่เป็นรูปธรรม แม้ข้อมูลที่มีอยู่ยังไม่เพียงพอจะสรุปจุดยืนทั้งหมดของ Gomez ต่อการชะลอทั้งอุตสาหกรรมหรือการกำกับดูแล AI ระหว่างประเทศ

ในทำนองเดียวกัน แหล่งข้อมูลที่มีอยู่ยังไม่เพียงพอจะอธิบายจุดยืนของนักลงทุน Steve Eisman ต่อประเด็นการชะลอ การวิจัยความปลอดภัย กฎระเบียบ และธรรมาภิบาล AI ระหว่างประเทศได้อย่างรับผิดชอบ

บทสรุป

Ng กำลังปรับกรอบของข้อถกเถียงด้านความปลอดภัย AI คำถามไม่ใช่ว่า AI ควรปลอดภัยขึ้นหรือไม่ แต่คือสถานการณ์สูญพันธุ์ที่ยังเป็นการคาดเดา ควรเป็นตัวกำหนดวาระทั้งหมดหรือไม่ คำตอบของเขาคือไม่: ควรให้ความสำคัญกับการทดสอบ มาตรการป้องกัน และงานวิศวกรรมเพื่อรับมืออันตรายที่ระบุได้ในปัจจุบัน พร้อมหลีกเลี่ยงการชะลอแบบเหมารวม ซึ่งเขาเชื่อว่าอาจขัดขวางทั้งนวัตกรรมและความก้าวหน้าด้านความปลอดภัยเอง 12