เชน เลกก์ เตือนความปลอดภัย AI ต้องเร่งให้ทัน ก่อน AGI รุดหน้า

Google DeepMind co-founder เชน เลกก์ (Shane Legg) ส่งสัญญาณชัดเจนว่า ความสามารถของปัญญาประดิษฐ์ที่พัฒนาอย่างรวดเร็วต้องไม่วิ่งแซงหน้ามาตรการความปลอดภัยที่ใช้ติดตามและควบคุมระบบเหล่านั้น เขากล่าวเรื่องนี้พร้อมเปิดตัว DeepMind Institute (DMI) เวทีใหม่เพื่อสำรวจการนำปัญญาประดิษฐ์ทั่วไป หรือ AGI (artificial general intelligence) ไปใช้งานและผลกระทบที่จะตามมา 141

ประเด็นที่เลกก์เตือน: ความสามารถต้องมากับการควบคุม

สาระของคำเตือนไม่ได้อยู่แค่ว่าโมเดล AI จะเก่งขึ้นเพียงใด แต่อยู่ที่กลไกกำกับดูแล การเฝ้าติดตาม การตรวจสอบ และการควบคุม จะพัฒนาเร็วพอที่จะทำให้มนุษย์ยังจัดการระบบที่ทรงพลังขึ้นได้หรือไม่ 1

นี่จึงเป็นเหตุผลที่ขอบเขตงานของ DMI ไม่ได้จำกัดอยู่ในห้องวิจัยด้านเทคนิค สถาบันระบุว่าต้องการผลักดันงานวิจัย ความร่วมมือ และการถกเถียงข้ามศาสตร์ เพื่อตอบคำถามสำคัญทั้งเชิงเทคนิคและสังคมในยุค AGI ตั้งแต่การสร้างและกำกับระบบ AGI อย่างปลอดภัย ไปจนถึงการจัดการ “ชุมชนของเอเจนต์” ที่ระบบเหล่านี้อาจก่อให้เกิด 16

DeepMind Institute คืออะไร

DMI เป็นแพลตฟอร์มเผยแพร่บทความและแลกเปลี่ยนข้อถกเถียง ไม่ใช่สิ่งที่จะมาแทนงานวิจัย AI หลักของ DeepMind เป้าหมายคือเปิดพื้นที่ให้นักวิจัยจาก Google DeepMind และชุมชนวิจัยวงกว้างร่วมกันพิจารณาว่า AI ที่มีความสามารถสูงขึ้นควรถูกสร้าง กำกับดูแล นำไปใช้งาน และใช้อย่างไร 3642

หัวข้อที่สถาบันตั้งใจครอบคลุมมีตั้งแต่วิทยาศาสตร์ การศึกษา สังคม นโยบาย ปรัชญา เศรษฐศาสตร์ ความปลอดภัย ไปจนถึงการที่มนุษย์จะมีชีวิตที่ดีหรือเจริญงอกงามได้อย่างไร กล่าวอีกนัยหนึ่ง คือไม่ได้มองเฉพาะการลดความเสี่ยงร้ายแรง แต่รวมถึงคำถามว่า หาก AGI ถูกใช้อย่างแพร่หลาย สถาบัน นโยบาย และเป้าหมายทางสังคมควรปรับตัวอย่างไร 1636

เขามองข้อเสนอชะลอการปล่อยโมเดลอย่างไร

เลกก์เรียกข้อเสนอของ ดาริโอ อโมเดอี (Dario Amodei) ซีอีโอ Anthropic ที่เสนอให้ ชะลอ แต่ไม่หยุด การปล่อยโมเดล AI แนวหน้า ว่า “น่าสนใจในเชิงทิศทาง” และ “ควรนำมาพิจารณา” 2

คำกล่าวนี้ยังไม่ใช่นโยบายที่ DeepMind ประกาศใช้ แต่สะท้อนว่าเขามองจังหวะการปล่อยระบบที่รอบคอบขึ้นเป็นทางเลือกจริงจัง ในการทำให้การใช้งาน AI เดินไปพร้อมกับมาตรการคุ้มครองที่เพียงพอ 2

AGI มาถึงแล้วหรือยัง? เลกก์บอกว่ายังเร็วเกินไปที่จะสรุป

แม้ผู้บริหารจาก Nvidia และ OpenAI จะมีความเห็นเกี่ยวกับความคืบหน้าสู่ AGI แต่เลกก์กล่าวว่ายังเร็วเกินไปที่จะประกาศว่า AGI เกิดขึ้นแล้ว รายงานที่มีอยู่ไม่ได้ระบุคำอธิบายโดยตรงอย่างละเอียดว่าเขามองเห็นช่องว่างด้านความสามารถใดบ้าง ดังนั้นข้อสรุปที่ยืนยันได้คือ เขายังไม่เห็นว่าระบบปัจจุบันผ่านเกณฑ์ AGI ของ DeepMind 4

Google DeepMind อธิบาย AGI ว่าเป็นระบบที่มีความสามารถด้านการรับรู้เทียบเท่าสมองมนุษย์ ซึ่งเป็นมาตรฐานที่กว้างกว่าการทำคะแนนโดดเด่นในแบบทดสอบหรือทำงานเฉพาะด้านได้ดี 13

อย่างไรก็ดี เลกก์ยังระบุว่าเขา “ยังสบายใจ” กับการคาดการณ์เดิมว่า มีความน่าจะเป็น 50% ที่จะบรรลุ “AGI ขั้นต้น” ภายในปี 2028 ตัวเลขนี้เป็นการคาดการณ์ ไม่ใช่กำหนดการที่ยืนยันแล้ว 210

บทความเปิดตัวพูดถึงอะไรบ้าง

ชุดเปิดตัวมีบทความแนะนำสถาบัน และบทความสำคัญหลายชิ้น โดยสามประเด็นหลักสะท้อนแนวทางที่มอง AGI ครอบคลุมหลายมิติ ได้แก่

1. ความโปร่งใสของการให้เหตุผล — บทความของ Rohin Shah และ Anca Dragan เสนอว่าควรรักษาการให้เหตุผลที่มนุษย์ตีความได้ เพื่อให้สามารถเฝ้าระวังโมเดลต่อพฤติกรรมหลอกลวงหรือการวางแผนแฝงได้ 11
2. นโยบายเศรษฐกิจสำหรับ AGI — บทความประเมินนโยบาย 11 แนวทางเพื่อรับมือความปั่นป่วนทางเศรษฐกิจที่อาจเกิดจาก AI ที่ก้าวหน้าและแพร่หลาย โดยพิจารณาสวัสดิภาพ ความยืดหยุ่น อำนาจในการตัดสินใจ และเสถียรภาพทางเศรษฐกิจ 39
3. หลักการสำหรับอุดมคตินิยมรูปแบบใหม่ — บทความพิจารณาว่า “การมีชีวิตที่ดี” ของมนุษย์อาจหมายถึงอะไรในสังคมที่ AGI มีบทบาทสูง โดยเตือนไม่ให้ตีความคำว่า “ยูโทเปีย” เป็นคำสัญญาว่าทุกอย่างจะสมบูรณ์แบบ 37

เว็บไซต์ของสถาบันยังระบุบทความอีกชิ้น คือ “A framework for frontier AI and the dawning of a new age” นอกเหนือจากบทความเปิดตัวและสามหัวข้อข้างต้น 4138

สรุป: ไม่ใช่การเบรก AI แต่คือการไม่ปล่อยให้ระบบคุมไม่อยู่

จุดยืนของเลกก์มีทั้งความเร่งด่วนและความระมัดระวัง เขาไม่ได้มองว่า AGI เกิดขึ้นแล้ว แต่ยังให้น้ำหนักถึง 50% ว่า AGI ขั้นต้นอาจมาถึงภายในปี 2028 แก่นของคำเตือนจึงไม่ใช่การฟันธงวันเวลาที่ AGI จะมาถึง หากแต่เป็นเงื่อนไขด้านการกำกับดูแล: เมื่อความสามารถของ AI เร็วขึ้น ระบบสำหรับทำความเข้าใจ เฝ้าระวัง และกำหนดทิศทางการใช้งานของมันก็ต้องเร็วขึ้นตามไปด้วย 1216