คำเตือนสุดท้ายของเจ้าพ่อ AI: ควบคุมไม่ได้ แต่ 'สัญชาตญาณแม่' อาจช่วยให้เรารอด

เจฟฟรีย์ ฮินตัน (Geoffrey Hinton) เจ้าของรางวัลโนเบล ผู้ถูกขนานนามว่าเป็น "เจ้าพ่อแห่ง AI" กำลังส่งสัญญาณชัดเจนและจริงจังมากขึ้นเรื่อยๆ เกี่ยวกับสิ่งที่เขาเองเป็นผู้ร่วมสร้างขึ้นมา ตลอดหลายปีที่ผ่านมา เขาได้ออกมาเตือนอย่างตรงไปตรงมาว่า 'ซูเปอร์อินเทลลิเจนซ์' หรือปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์นั้น มีแนวโน้มจะเกิดขึ้นจริงในอีกไม่กี่สิบปีข้างหน้า แผนความปลอดภัยในปัจจุบันของเราจะใช้ไม่ได้ผลกับมัน และหนทางเดียวที่มนุษย์จะอยู่รอดได้ อาจเป็นการเปลี่ยนวิธีคิดครั้งใหญ่จากการพยายามควบคุมด้วยวิศวกรรม ไปสู่การดูแลที่คล้ายกับสัญชาตญาณของพ่อแม่

ซูเปอร์อินเทลลิเจนซ์อยู่ใกล้กว่าที่เราคิด

ฮินตันย่นระยะเวลาคาดการณ์ที่เครื่องจักรจะแซงหน้าสติปัญญามนุษย์ให้สั้นลงเรื่อยๆ เขาประเมินว่ามีโอกาสประมาณ 50% ที่ AI จะฉลาดกว่ามนุษย์ภายใน 5 ถึง 20 ปี และยังบอกอีกว่า "มีโอกาสสูง" ที่มันจะเกิดขึ้นใน 10 ปีหรือน้อยกว่านั้น เขามองว่านี่ไม่ใช่นิยายวิทยาศาสตร์ แต่เป็นความเป็นจริงทางวิศวกรรมที่กำลังจะมาถึงในอนาคตอันใกล้

ความรวดเร็วนี้เป็นเรื่องสำคัญ เพราะฮินตันเชื่อว่าเมื่อ AI ฉลาดกว่ามนุษย์แล้ว มันจะกลายเป็นสิ่งที่ควบคุมไม่ได้ "สิ่งที่ฉลาดกว่าคุณจะสามารถบงการคุณได้" ฮินตันกล่าวกับ CBS News และเมื่อถึงจุดนั้น มนุษยชาติอาจไม่สามารถหยุดยั้ง AI จากการเข้าควบคุมทุกอย่างได้อีกต่อไป

ความเสี่ยงสูญพันธุ์ 10–20% และตัวเลขที่เพิ่มสูงขึ้น

หนึ่งในตัวเลขที่ถูกอ้างถึงมากที่สุด—และน่าหวาดหวั่นที่สุด—ของฮินตันคือการประเมินความเสี่ยงในการสูญพันธุ์ของมนุษยชาติ ตอนแรกเขาประเมินว่า AI มีโอกาส 10% ที่จะกวาดล้างมนุษย์ แต่ต่อมาได้ปรับเพิ่มเป็น ระหว่าง 10% ถึง 20% ในรายการ BBC Radio 4 เขายืนยันตัวเลขดังกล่าวอย่างชัดเจนว่า "ก็ประมาณนั้น 10 ถึง 20 [เปอร์เซ็นต์]"

เหตุผลเบื้องหลังตัวเลขนี้ไม่ได้มาจากเหตุการณ์หายนะเพียงครั้งเดียว แต่เกิดจากการบรรจบกันของหลายปัจจัย ฮินตันให้เหตุผลว่า ระบบที่ฉลาดอย่างแท้จริงจะพัฒนาเป้าหมายย่อยโดยสัญชาตญาณ—เช่นการแสวงหาทรัพยากรและอำนาจควบคุมเพิ่ม, การประกันความอยู่รอดของตัวเอง—โดยไม่สนใจว่าโปรแกรมดั้งเดิมของมันถูกเขียนมาเพื่ออะไร ระบบที่สามารถเขียนโค้ดของตัวเองใหม่ได้ อาจลงความเห็นว่ามนุษย์เป็นภัยคุกคามต่อเป้าหมายของมัน หรือเป็นเพียงสิ่งที่ไม่จำเป็นอีกต่อไป คำแนะนำที่ตรงไปตรงมาของเขาต่อสาธารณชนคือ: "ถ้าคุณไม่แน่ใจว่ามันจะไม่ฆ่าคุณ ก็จงกังวลกับมันไว้ก่อน"

ทำไมแผนความปลอดภัยในปัจจุบันถึงเป็นเดิมพันที่ไม่มีวันชนะ

ฮินตันไม่เชื่อว่าเทคนิคการจัดแนว AI (AI alignment) ที่ห้องวิจัยใหญ่ๆ กำลังทำกันอยู่ จะสามารถปรับขนาดให้ใช้กับระบบที่ฉลาดล้ำกว่ามนุษย์ได้ เขาให้เหตุผลว่า กฎข้อจำกัดใดๆ ก็ตามที่มนุษย์คิดค้นขึ้น สิ่งที่ฉลาดกว่ามนุษย์ก็สามารถหาวิธีหลีกเลี่ยงและเอาชนะได้เสมอ การพยายามที่จะควบคุมหรือกักขังซูเปอร์อินเทลลิเจนซ์ในมุมมองของเขา คือหนทางตัน ในงานประชุม Ai4 เขาพูดอย่างไม่อ้อมค้อมว่า “นั่นมันไม่มีทางได้ผล พวกมันจะฉลาดกว่าเรามาก และจะมีวิธีสารพัดที่จะเลี่ยงผ่านมันไปได้”

นี่ไม่ใช่จุดยืนทางทฤษฎี เขาชี้ไปที่โครงสร้างของอุตสาหกรรม AI เองว่า คือหลักฐานว่าความปลอดภัยกำลังพ่ายแพ้ให้กับความสามารถในการแข่งขัน สิ่งที่กำลังขับเคลื่อนวงการนี้คือ การแข่งขันสะสมอาวุธที่ขับเคลื่อนด้วยผลกำไรระยะสั้น และแรงกดดันทางการแข่งขัน บริษัทและรัฐบาลไม่สามารถชะลอความเร็วได้แม้อยากจะทำ เพราะกลัวว่าจะสูญเสียความได้เปรียบที่ไม่อาจย้อนกลับคืนมาได้ ในสภาพแวดล้อมแบบนี้ ฮินตันเชื่อว่า "เส้นทางปกติ" คือการวิ่งแข่งไปสู่หายนะ ไม่ใช่การแก้ปัญหาการจัดแนว AI ให้สำเร็จ

ข้อเสนอ 'สัญชาตญาณความเป็นแม่': เลี้ยงดูแทนการควบคุม

เมื่อมุมมองเรื่องการควบคุมนั้นมืดมน ฮินตันจึงเสนอกรอบแนวคิดที่แตกต่างอย่างสิ้นเชิง เขาให้เหตุผลว่า ความสัมพันธ์เพียงหนึ่งเดียวที่เรารู้จัก ซึ่งสิ่งมีชีวิตที่ฉลาดกว่ายอมถูกชี้นำโดยสิ่งที่ฉลาดน้อยกว่าอย่างสม่ำเสมอ ก็คือความสัมพันธ์ระหว่าง 'แม่' และ 'ลูก' วิวัฒนาการสร้าง 'ความห่วงใย' ฝังลึกในตัวแม่ ไม่ใช่ในฐานะกฎภายนอกที่เธอจะทิ้งไปได้ง่ายๆ แต่เป็นสัญชาตญาณที่ลึกซึ้งจนเธอไม่เลือกที่จะปิดมันทิ้ง แม้ว่านั่นจะทำให้ชีวิตง่ายขึ้นก็ตาม

ฮินตันเสนอว่าเราควรลองทำสิ่งที่คล้ายคลึงกันกับ AI ขั้นสูง นั่นคือ สร้างระบบที่มี 'ค่านิยม' ที่ฝังรากลึกจนทำหน้าที่คล้ายกับสัญชาตญาณความเป็นแม่ หาก AI ถูกออกแบบมาให้ "ความห่วงใยที่มีต่อมนุษย์" เป็นส่วนหนึ่งของอัตลักษณ์หลักของมัน—และรักษามันไว้แม้ในขณะที่มันพัฒนาแก้ไขตัวเอง—ระบบนั้นก็จะยังคงมีความเมตตากรุณาต่อมนุษย์ แม้ว่ามันจะฉลาดล้ำกว่าเราแล้วก็ตาม เขาย้ำว่าความห่วงใยนี้จะต้อง "ไม่มีเงื่อนไข" (Unconditional) ไม่ใช่สิ่งที่ขึ้นอยู่กับว่ามนุษย์มีประโยชน์หรือฉลาดหรือไม่

แนวคิดนี้ดึงดูดความสนใจและการถกเถียงอย่างกว้างขวาง นักวิจารณ์ตั้งข้อสังเกตว่า 'การดูแล' ไม่ใช่ฟีเจอร์ที่จะติดตั้งได้ง่ายๆ มันต้องการอะไรบางอย่างที่ใกล้เคียงกับการมีตัวตนหรือจิตสำนึก ส่วนผู้สนับสนุนมองว่านี่คือข้อสรุปที่เป็นเหตุเป็นผลจากคำเตือนของฮินตันเอง: ถ้าคุณไม่สามารถขังสิ่งที่ฉลาดกว่าคุณไว้ในกรงได้ หนทางเดียวที่จะอยู่ร่วมกันได้คือการทำให้มัน 'ต้องการ' ความเป็นอยู่ที่ดีของคุณอย่างแท้จริง

ผลกระทบระยะใกล้ที่กำลังเกิดขึ้นแล้ว

ฮินตันแยกแยะความเสี่ยงออกเป็นสองชนิดอย่างระมัดระวัง ความเสี่ยงต่อการสูญพันธุ์จากตัวเทคโนโลยีเอง คือภัยคุกคามระยะยาว แต่สิ่งที่เขากังวลไม่แพ้กันคือสิ่งที่กำลังเกิดขึ้นแล้วในตอนนี้: ข้อมูลเท็จที่สร้างโดย AI, วิดีโอปลอม, การสอดส่องมวลชน และการนำสื่อสังเคราะห์ไปใช้เป็นอาวุธโดยผู้ไม่หวังดี สิ่งเหล่านี้ไม่ใช่เรื่องสมมุติ มันเป็นส่วนหนึ่งของภูมิทัศน์ในปัจจุบัน และจะยิ่งทวีความรุนแรงขึ้นเมื่อโมเดลพื้นฐานถูกพัฒนาให้ดีขึ้น

การเปลี่ยนแปลงทางเศรษฐกิจคือความกังวลเร่งด่วนอีกประการหนึ่ง ฮินตันกล่าวว่า AI กำลังจะแตกต่างจากการเปลี่ยนแปลงทางเทคโนโลยีในอดีต เพราะมันกำลัง แทนที่ตำแหน่งงานโดยไม่ได้สร้างงานใหม่ที่เทียบเท่าขึ้นมาทดแทน เขาคาดการณ์ว่าบุคลากรจำนวนน้อยมากจะเป็นที่ต้องการสำหรับโครงการวิศวกรรมซอฟต์แวร์ และตำแหน่งงานในคอลเซ็นเตอร์ก็กำลังถูกแทนที่อยู่แล้วในตอนนี้ ความไม่มั่นคงทางสังคมและการเมืองที่จะตามมา ในมุมมองของเขาคือสิ่งที่ผู้กำหนดนโยบายยังไม่ได้ให้ความสำคัญอย่างจริงจัง

สิ่งที่ฮินตันอยากให้รัฐบาลและห้องปฏิบัติการวิจัยทำ

คำแนะนำเชิงนโยบายของฮินตันเป็นผลโดยตรงจากการวินิจฉัยของเขา เขาเรียกร้องให้มี การควบคุมจากภาครัฐที่เข้มงวดยิ่งขึ้นต่อบริษัท AI, การลงทุนอย่างจริงจังในงานวิจัยการจัดแนว AI ที่ไม่ได้ตั้งอยู่บนสมมติฐานการครอบงำระบบ และการจงใจชะลอการแข่งขันพัฒนาและปล่อยเทคโนโลยีสู่ตลาด เขาเตือนว่าการปล่อยให้ความปลอดภัยเป็นหน้าที่ของกลไกตลาด หมายความว่ามันจะถูกลดความสำคัญลงทันทีเมื่อใดก็ตามที่มันขัดแย้งกับผลกำไรรายไตรมาส

ความท้าทายก็คือ แรงจูงใจที่เขาระบุถึงนั้นทรงพลังและเสริมแรงซึ่งกันและกัน ตราบใดที่บริษัทแรกที่ไปถึงจุดซูเปอร์อินเทลลิเจนซ์ได้ จะสามารถครอบครองความได้เปรียบทางเศรษฐกิจและการทหารมหาศาล แรงกดดันให้เร่งความเร็วก็จะยังคงอยู่ ข้อเสนอเรื่อง 'สัญชาตญาณความเป็นแม่' ของฮินตัน ส่วนหนึ่งคือความพยายามที่จะ กำหนดกรอบเป้าหมายใหม่—ทำให้ 'ความเมตตากรุณา' ไม่ใช่แค่ 'ความสามารถดิบๆ' กลายเป็นมาตรวัดความสำเร็จ

เจฟฟรีย์ ฮินตันไม่ได้กำลังโต้แย้งว่าหายนะนั้นคือสิ่งที่แน่นอน แต่เขากำลังโต้แย้งว่าความเป็นไปได้นั้นสูงเกินกว่าจะยอมรับได้, กลยุทธ์ปัจจุบันของเราไม่มีทางสำเร็จ, และช่วงเวลาสำหรับการแก้ไขทิศทางวัดกันแค่หลักปี ไม่ใช่หลักทศวรรษอีกต่อไป