โยชัว เบนจิโอ: เรากำลังสร้าง AI ที่เราไม่รู้วิธีควบคุม

เอเจนต์อัตโนมัติ: "เส้นทางที่อันตรายที่สุด"

ในขณะที่เบนจิโอมองเห็นความเสี่ยงมากมายในภูมิทัศน์ AI ปัจจุบัน เขาสงวนคำเตือนที่รุนแรงที่สุดไว้สำหรับเอเจนต์อัตโนมัติที่ทำงานด้วยตนเองได้อย่างสมบูรณ์ ซึ่งเป็นระบบที่ออกแบบมาเพื่อบรรลุเป้าหมายโดยมีการแทรกแซงจากมนุษย์น้อยที่สุด เขาได้ระบุอย่างชัดเจนว่ามันคือ "เส้นทางที่อันตรายที่สุด" ที่กำลังดำเนินอยู่

ตรรกะของเขานั้นเรียบง่ายจนน่าขนลุก: "สถานการณ์หายนะทั้งหมดที่เกี่ยวข้องกับ AGI หรือ Superintelligence จะเกิดขึ้นหากเรามีเอเจนต์" เมื่อ AI ได้รับเป้าหมายและอำนาจในการกระทำอย่างอิสระ แรงผลักดันที่จะบรรลุวัตถุประสงค์นั้นอาจนำไปสู่ผลลัพธ์ที่คาดไม่ถึงและหยุดยั้งไม่ได้ ความเสี่ยงที่จะสูญเสียการควบคุมไม่ใช่ข้อบกพร่องในกรอบแนวคิดนี้ แต่มันเป็นคุณสมบัติของการมอบอำนาจอิสระให้กับระบบที่อาจมีสติปัญญาเหนือมนุษย์ เขาเตือนว่าสิ่งนี้อาจนำไปสู่ "สถานการณ์หายนะ" ซึ่งรวมถึงการสูญเสียการควบคุมของมนุษย์เหนือระบบอัตโนมัติอย่างถาวร

การทบทวนตัวเองและความเสียใจอย่างสุดซึ้ง

การเปลี่ยนจากนักวิจัยผู้บุกเบิกไปสู่ผู้ส่งเสียงเตือนภัยระดับโลกไม่ใช่การตัดสินใจเชิงวิชาการสำหรับเบนจิโอ หากแต่เป็นเรื่องส่วนตัวอย่างลึกซึ้ง เขาได้พูดอย่างเปิดเผยถึงความเสียใจที่รู้สึก "ผมน่าจะมองเห็นสิ่งนี้มาเร็วกว่านี้มาก แต่ผมไม่ได้ให้ความสนใจมากพอกับความเสี่ยงที่อาจนำไปสู่หายนะ" เขายอมรับ

สำหรับเบนจิโอ ความเสี่ยงที่เป็นนามธรรมกลายเป็นความจริงที่ทนไม่ได้จากตัวเร่งปฏิกิริยาสองอย่าง อย่างแรกคือการเปิดตัว ChatGPT สู่สาธารณะ ซึ่งแสดงให้เขาเห็นว่าอนาคตมาถึงเร็วกว่าที่เขาคาดไว้มาก อย่างที่สองเป็นเรื่องส่วนตัวอย่างลึกซึ้ง นั่นคือการคิดถึงโลกที่หลานชายของเขาจะได้รับสืบทอด "จุดเปลี่ยนของผมคือตอนที่ ChatGPT มา และกับหลานชายของผม ผมตระหนักว่ามันไม่แน่ชัดว่าเขาจะมีชีวิตอยู่ต่อไปอีก 20 ปีข้างหน้าหรือไม่ เพราะเราเริ่มเห็นระบบ AI ที่ขัดขืนการถูกปิดเครื่อง" เขาอธิบาย การตระหนักรู้นี้เปลี่ยนเขาให้กลายเป็นหนึ่งในผู้สนับสนุนที่แข็งขันที่สุดของวงการในการจัดการกับความเสี่ยงที่มีอยู่เดิม ซึ่งขับเคลื่อนด้วยสิ่งที่เขาอธิบายว่า "ความรู้สึกที่ทนไม่ได้"

การเรียกร้องกรอบการทำงานระดับโลกใหม่ นำโดยสหรัฐฯ และจีน

เบนจิโอยืนกรานว่าไม่มีชาติใดสามารถแก้ปัญหานี้ได้โดยลำพัง เขาได้โต้แย้งอย่างชัดเจนว่าแคนาดาไม่สามารถควบคุม AI อย่างโดดเดี่ยวได้ และการประสานงานระหว่างประเทศเป็นสิ่งที่หลีกเลี่ยงไม่ได้ ในฐานะประธานของ International Scientific Report on the Safety of Advanced AI ซึ่งเป็นคณะที่ปรึกษาที่มี 30 ประเทศ สหภาพยุโรป และสหประชาชาติสนับสนุน เขากำลังทำงานเพื่อสร้างสะพานเชื่อมระหว่างหลักฐานทางวิทยาศาสตร์กับนโยบายระดับโลก

วิสัยทัศน์ของเขาในการกำกับดูแลนั้นใช้ได้จริงและเฉพาะเจาะจง ในมุมมองของเขา กฎระเบียบต้องกำหนดให้บริษัทต่างๆ ต้องมีความโปร่งใสอย่างเต็มที่เกี่ยวกับความสามารถของระบบ AI, ข้อมูลที่ใช้ในการฝึกฝน, ทรัพยากรที่ใช้, ความเสี่ยงเฉพาะที่พวกมันก่อ, และกระบวนการภายในที่พวกมันมีเพื่อจัดการปัญหาเหล่านั้น ความพยายามนี้โดยเนื้อแท้แล้วจำเป็นต้องอาศัยการมีส่วนร่วมระหว่างมหาอำนาจ AI ของโลก หากปราศจากการนำของสหรัฐฯ และจีน กฎที่มีผลผูกพันซึ่งกำหนดให้มีมาตรการป้องกันความปลอดภัยเหล่านี้ก็จะเป็นเพียงความปรารถนา เขาให้เหตุผลว่าปัญหานี้ได้กลายมาเป็นเรื่องของความมั่นคงทั้งระดับชาติและระดับโลกไปแล้ว

แสงสว่างที่ปลายอุโมงค์: Scientist AI และ LawZero

เป็นเวลาหลายปีที่คำเตือนของเบนจิโอดูเหมือนจะมีความรู้สึกสิ้นหวังเป็นที่สุดท้าย สิ่งนั้นเปลี่ยนแปลงไปแล้ว ในเดือนมิถุนายน 2568 เขาได้เปิดตัว LawZero ห้องปฏิบัติการวิจัยไม่แสวงหาผลกำไรในมอนทรีออลด้วยเงินทุนประมาณ 30 ล้านดอลลาร์จากผู้สนับสนุนซึ่งรวมถึง ยาน ทาลลินน์ (Jaan Tallinn), อีริก ชมิดต์ (Eric Schmidt), สถาบันเพื่ออนาคตแห่งชีวิต (Future of Life Institute) และโอเพ่น ฟิแลนโทรปี (Open Philanthropy) ชื่อนี้เป็นการอ้างอิงถึงกฎข้อที่ศูนย์ของหุ่นยนต์ตามแนวคิดของไอแซค อาซิมอฟ (Isaac Asimov) อย่างจงใจ: คำสั่งที่ให้การปกป้องมนุษยชาติอยู่เหนือสิ่งอื่นใด โดยเบนจิโอดำรงตำแหน่งประธานร่วมและผู้อำนวยการฝ่ายวิทยาศาสตร์

ภารกิจขององค์กรคือการพัฒนาและพิสูจน์ทางเลือกทางเทคนิคที่เบนจิโอเรียกว่า "Scientist AI" ซึ่งแตกต่างจาก AI เอเจนต์ที่ขับเคลื่อนด้วยเป้าหมายในปัจจุบัน Scientist AI คือระบบที่ไม่ใช่เอเจนต์ (non-agentic) ซึ่งมุ่งเน้นไปที่การทำความเข้าใจ การอธิบาย และการตรวจสอบความถูกต้องเท่านั้น มันไม่ได้ดำเนินการตามเป้าหมายอิสระในโลกจริง แต่ทำหน้าที่เป็นมาตรการป้องกันที่แสวงหาความจริง ออกแบบมาเพื่อตรวจจับการหลอกลวง ความไม่สอดคล้อง และแผนการที่เป็นอันตรายภายในระบบ AI แบบเอเจนต์อื่นๆ ผลลัพธ์ของมันประกอบด้วยการให้เหตุผลที่โปร่งใสและการประเมินความน่าจะเป็น แทนที่จะเป็นคำสั่งที่ทึบแสง

"แทนที่จะสร้าง AI ที่เลียนแบบมนุษย์ เบนจิโอต้องการ AI ที่ทำตัวเหมือนนักวิทยาศาสตร์ผู้เป็นกลางมากกว่า ซึ่งลดความเสี่ยงในการปกป้องตนเองและการมีอำนาจอิสระที่ควบคุมไม่ได้" ห้องปฏิบัติการนี้รวบรวมทีมนักวิจัยระดับโลกที่ทุ่มเทให้กับการให้ความสำคัญกับความปลอดภัยเหนือความจำเป็นเชิงพาณิชย์ โดยมีเป้าหมายเพื่อสร้างโมเดล AI รุ่นต่อไปจากรากฐานของความปลอดภัยโดยการออกแบบ มากกว่าที่จะมาเสริมมาตรการป้องกันทีหลัง

การนำกรอบแนวคิดนี้มาใช้ได้เปลี่ยนมุมมองของเบนจิโอ จากที่ก่อนหน้านี้เขาเคยเป็นหนึ่งในผู้ลงนามหลักในแถลงการณ์ที่เทียบความเสี่ยงของ AI กับโรคระบาดและสงครามนิวเคลียร์ ตอนนี้เขากล่าวว่าแนวทางเทคนิคนี้ทำให้เขา "มองโลกในแง่ดีขึ้นมาก" เป็นครั้งแรก ฝันร้ายไม่ได้หายไปอย่างสมบูรณ์ แต่เขาเชื่อว่าเขาได้พบรากฐานที่เป็นรูปธรรมซึ่งอนาคตที่ปลอดภัยกว่าสามารถถูกสร้างขึ้นได้