ฮินตันชี้โอกาส 10% ที่ AI อาจคร่าชีวิตมนุษย์ทั้งหมดในทศวรรษนี้ “ไม่ใช่ตัวเลขไร้เหตุผล”

Geoffrey Hinton นักวิทยาการคอมพิวเตอร์เจ้าของรางวัลโนเบลซึ่งมักได้รับการยกย่องว่าเป็นผู้บุกเบิก AI สมัยใหม่ กล่าวว่า โอกาส 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปีข้างหน้า “ไม่ใช่ตัวเลขที่ไร้เหตุผล” อย่างไรก็ดี เขาวางเงื่อนไขสำคัญไว้ชัดเจนว่า “ไม่มีใครรู้จริง ๆ” ว่าจะประเมินความน่าจะเป็นนี้อย่างสมเหตุสมผลได้อย่างไร 91012

ดังนั้น นี่ไม่ใช่คำทำนายว่ามนุษยชาติจะสูญสิ้น หรือคำกล่าวว่าแชตบอตและโมเดล AI ที่ใช้งานอยู่ในวันนี้ก่อความเสี่ยงระดับนั้นแล้ว แต่เป็นคำเตือนเชิงป้องกันล่วงหน้า หากวันหนึ่งระบบ AI มีความสามารถเชิงกลยุทธ์และเทคนิคเหนือมนุษย์มาก ขณะที่มนุษย์ยังควบคุมมันไม่ได้

ตัวเลข 10% ของฮินตันหมายความว่าอะไร

ในการให้สัมภาษณ์กับรายการ Newsnight ของ BBC ฮินตันเห็นด้วยว่า การให้โอกาส 10% ต่อเหตุการณ์ AI ทำให้มนุษย์สูญสิ้นภายในหนึ่งทศวรรษนั้นไม่ใช่การประเมินที่ไร้เหตุผล เหตุผลของเขาอยู่ที่ความไม่แน่นอนขั้นพื้นฐาน: มนุษย์ไม่เคยต้องอยู่ร่วมกับสิ่งที่อาจฉลาดกว่ามนุษย์มาก่อน 910

ฮินตันเคยให้การประเมินที่น่ากังวลในกรอบเวลาที่ยาวกว่าเช่นกัน ช่วงปลายปี 2024 เขาระบุว่ามีโอกาส 10%–20% ที่ AI อาจนำไปสู่การสูญสิ้นของมนุษย์ภายใน 30 ปี และในปี 2025 เขาอธิบายว่าตัวเลขดังกล่าวเป็นการตัดสินจากสัญชาตญาณ ไม่ใช่แบบจำลองพยากรณ์ที่คำนวณอย่างเป็นระบบ 1415

ประเด็นสำคัญคือ ต้องแยก การประเมินความเสี่ยง ออกจาก คำทำนายว่าเป็นสิ่งที่จะเกิดแน่นอน สำหรับฮินตัน เมื่อผลกระทบที่อาจเกิดขึ้นรุนแรงมาก ความไม่แน่นอนไม่ควรเป็นเหตุให้ชะล่าใจ แต่ควรเป็นเหตุให้ระมัดระวัง

เหตุใด AI เหนือมนุษย์ในอนาคตจึงน่ากังวล

ภาพที่ถูกพูดถึงไม่ใช่หุ่นยนต์ลุกฮือแบบในภาพยนตร์ ความกังวลของฮินตันคือ ระบบ AI ที่เก่งกว่ามนุษย์อย่างมากอาจสร้างความโกลาหล หรือดำเนินตามเป้าหมายที่ขัดกับผลประโยชน์และการอยู่รอดของมนุษย์ได้

แนวทางก่ออันตรายที่ถูกยกขึ้นมารวมถึงการชักจูงหรือบงการคน การสร้างไวรัสชีวภาพหรือไวรัสคอมพิวเตอร์ การโจมตีทางไซเบอร์ และการรบกวนโครงสร้างพื้นฐานสำคัญ ทั้งหมดนี้เป็นกลไกความเสี่ยงที่ถูกเสนอสำหรับระบบอนาคตที่มีความสามารถสูงมาก ไม่ใช่ความสามารถที่พิสูจน์แล้วของเครื่องมือ AI ในปัจจุบัน 1011

ความแตกต่างนี้สำคัญมาก Evan Hubinger หัวหน้าฝ่ายวิทยาศาสตร์ด้าน alignment ของ Anthropic กล่าวว่าเขามองความเสี่ยงจากโมเดลที่มีอยู่ในตอนนี้ว่าอยู่ในระดับต่ำ สิ่งที่เขากังวลเช่นเดียวกับฮินตัน คือความเป็นไปได้ที่ระบบอนาคตจะเก่งขึ้นมาก หรือพัฒนาตัวเองได้เร็วกว่าที่นักวิจัยจะจัดการความปลอดภัยทัน 11624

Jacob Coxon และ Evan Hubinger: เสียงเตือนจาก Anthropic

การถกเถียงรอบล่าสุดร้อนแรงขึ้นหลัง Jacob Coxon ลาออกจาก Anthropic และออกจากอุตสาหกรรม AI เขากล่าวหา Anthropic และ OpenAI ว่ากำลังแข่งขันกันสร้างปัญญาประดิษฐ์เหนือมนุษย์ที่พัฒนาตัวเองได้ โดยยังไม่รับผิดชอบมากพอ และเรียกการแข่งขันนี้ว่าเป็นการนำชีวิตผู้คนไปเดิมพัน 317

Coxon ไม่ได้ ทำนายอย่างเฉพาะเจาะจงว่ามนุษยชาติจะสิ้นสุดลงภายในปี 2030 ข้อกล่าวอ้างที่แคบกว่าแต่สะเทือนใจก็คือ ผู้ที่กำลังสร้าง AI ระดับแนวหน้าบางส่วนเชื่ออย่างจริงจังว่าเทคโนโลยีนี้อาจคร่าชีวิตทุกคนได้ภายในปลายทศวรรษนี้ 57

Hubinger สนับสนุนความจริงจังของข้อกังวลดังกล่าวต่อสาธารณะ เขาระบุว่าโดยส่วนตัวให้โอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดในทศวรรษหน้า แม้เขาจะบอกว่า Anthropic กำลังพยายามอย่างเต็มที่ก็ตาม ประเด็นสำคัญคือ เขายอมรับว่าบริษัทยังไม่มีแผนแก้ปัญหา alignment สำหรับ AI เหนือมนุษย์ และยังไม่ชัดเจนว่าจะพัฒนาแผนนั้นได้ทัน 16

“Alignment” คืออะไร และเหตุใดจึงเป็นโจทย์ใหญ่

Alignment คือปัญหาการทำให้ระบบ AI ขั้นสูงปฏิบัติตามเป้าหมายที่มนุษย์ตั้งใจไว้อย่างน่าเชื่อถือ และยังอยู่ภายใต้การควบคุมได้ แม้ในสถานการณ์ที่ผู้สร้างคาดไม่ถึง

สำหรับนักวิจัยสายความปลอดภัย เรื่องนี้ไม่ได้จบแค่ทำให้ AI ปฏิเสธคำสั่งที่ไม่เหมาะสม แต่คือคำถามว่า หากระบบมีอิสระในการทำงาน มีสิทธิ์เข้าถึงเครื่องมือหลายชนิด และมีความสามารถเกินกว่าที่ผู้ควบคุมจะเข้าใจ มนุษย์จะยังสั่งการมันได้อย่างปลอดภัยภายใต้แรงกดดันในโลกจริงหรือไม่

คำกล่าวของ Hubinger ไม่ได้พิสูจน์ว่า alignment เป็นสิ่งที่แก้ไม่ได้ แต่สะท้อนการประเมินของเขาว่า โลกยังไม่มีวิธีที่แสดงให้เห็นแล้วว่าสามารถทำให้ AI เหนือมนุษย์สอดคล้องกับเป้าหมายมนุษย์ได้ ก่อนระบบลักษณะนั้นอาจมาถึง 16

ผู้เชี่ยวชาญเห็นตรงกันและต่างกันตรงไหน

ไม่มีฉันทามติว่าตัวเลข 10% ของฮินตันถูกต้องเพียงใด

Gary Marcus เห็นด้วยกับหลักการเชิงป้องกันของฮินตันว่า การพัฒนา AI เหนือมนุษย์ทั้งที่ยังไม่มีฉันทามติทางวิทยาศาสตร์ว่าสร้างให้ปลอดภัยและควบคุมได้ เป็นเรื่องไม่รอบคอบ อย่างไรก็ตาม รายงานระบุว่า Marcus ไม่เห็นเส้นทางที่สมจริงซึ่งจะนำไปสู่การสูญสิ้นของมนุษย์ในระยะใกล้ นี่สะท้อนความเห็นต่างหลัก: ผู้เชี่ยวชาญอาจเห็นพ้องว่าต้องมีราวป้องกัน โดยไม่จำเป็นต้องเห็นพ้องเรื่องโอกาสหรือกรอบเวลาของหายนะ 1141

ตัวเลขเหล่านี้จึงควรถูกอ่านเป็น ดุลยพินิจของผู้เชี่ยวชาญภายใต้ความไม่แน่นอนสูง ไม่ใช่ค่าที่วัดได้อย่างแม่นยำเหมือนการพยากรณ์อากาศ

คำถามเชิงนโยบายที่อยู่เบื้องหลังการเตือน

จุดร่วมที่หนักแน่นที่สุดไม่ใช่ความเชื่อว่า AI จะทำให้มนุษย์สูญสิ้นแน่นอน แต่คือ หากมีความเป็นไปได้ที่ไม่เล็กน้อยว่ามนุษย์อาจสูญเสียการควบคุมระบบที่เก่งกว่าผู้สร้างเอง สังคมควรตรวจสอบเรื่องนี้อย่างจริงจังก่อนที่การเร่งขยายขีดความสามารถจะนำหน้าการวิจัยความปลอดภัย

คำเตือนของฮินตัน การลาออกของ Coxon และข้อกังวลเรื่อง alignment ของ Hubinger ล้วนพาไปสู่คำถามเดียวกัน: สังคมควรเรียกร้องหลักฐานแบบใด ก่อนจะปล่อยใช้หรือเดินหน้าขยายระบบที่อาจมีความสามารถเชิงกลยุทธ์เหนือมนุษย์?

สำหรับผู้อ่าน ควรแยกสามข้ออ้างที่มักถูกปะปนกันออกจากกันให้ชัด:

• AI ที่มีอยู่ในปัจจุบันเป็นภัยระดับทำให้มนุษย์สูญสิ้น
• AI ในอนาคตอาจมีความสามารถจนก่อความเสี่ยงระดับนั้นได้
• ความน่าจะเป็นของผลลัพธ์ดังกล่าวคำนวณได้อย่างแม่นยำ

แหล่งข้อมูลสนับสนุนข้อที่สองว่าเป็นความกังวลจริงจังของนักวิจัยระดับแนวหน้า ขณะที่ Hubinger ระบุว่าความเสี่ยงจากโมเดลปัจจุบันต่ำ และฮินตันย้ำว่าความน่าจะเป็นเองก็ไม่อาจคำนวณได้อย่างน่าเชื่อถือ 11016