AI ช่วยพัฒนา AI ได้เร็วแค่ไหน? คำถามที่นักวิจัยอยากให้ผู้กำกับดูแลตรวจสอบ

สิ่งที่นักวิจัยจาก OpenAI, Anthropic, Meta และ Microsoft กังวล ไม่ได้มีแค่ความสามารถของ AI รุ่นถัดไป แต่อยู่ที่ความเป็นไปได้ที่ AI จะเข้ามาช่วยพัฒนา AI รุ่นถัดไปด้วย หากระบบที่เก่งขึ้นช่วยให้งานวิจัยก้าวหน้าเร็วขึ้น และถูกนำไปใช้ทำงานวิจัยได้มากกว่าเดิม วงจรนี้ก็อาจเร่งการพัฒนาในรอบต่อ ๆ ไป 23

นักวิจัยจึงเรียกร้องให้ผู้กำหนดนโยบายตรวจสอบว่าบริษัทใช้ AI ในงานวิจัยและพัฒนามากเพียงใด ก่อนที่การเปลี่ยนแปลงจะเกิดขึ้นเร็วจนกำกับดูแลได้ยากขึ้น 23 อย่างไรก็ตาม “การระเบิดทางปัญญา” (intelligence explosion) เป็นฉากทัศน์ความเสี่ยง ไม่ใช่หลักฐานว่า AI กำลังปรับปรุงตัวเองโดยไม่มีมนุษย์กำกับ คำถามสำคัญในตอนนี้คือจะวัดและกำกับบทบาทที่เพิ่มขึ้นของ AI ในการวิจัย AI อย่างไร 114

วงจรที่ AI ช่วยเร่งการพัฒนา AI

AI สามารถเข้ามาช่วยงานหลายส่วนในการพัฒนาโมเดลรุ่นใหม่ได้ หากความช่วยเหลือนั้นทำให้นักวิจัยสร้างระบบที่มีความสามารถสูงขึ้น และระบบที่เก่งขึ้นกลับมารับงานวิจัยได้มากกว่าเดิม แต่ละรอบก็อาจเร่งรอบถัดไป แนวคิดนี้เรียกว่า “การพัฒนาตนเองแบบวนซ้ำ” (recursive self-improvement) คือ AI ช่วยปรับปรุงกระบวนการที่ใช้สร้าง AI 15

ความกังวลหลักอยู่ที่ ความเร็วของการเปลี่ยนแปลง รายงานที่อธิบายเอกสารของนักวิจัยยกตัวอย่างฉากทัศน์หนึ่งว่า ความก้าวหน้าที่อาจใช้เวลาหนึ่งปีอาจเกิดขึ้นได้ในเวลาเพียงไม่กี่สัปดาห์ แต่นี่เป็นการคาดการณ์ ไม่ใช่ผลลัพธ์ที่วัดได้ และแหล่งข้อมูลไม่ได้ยืนยันว่าความเร็วระดับนั้นเกิดขึ้นแล้ว 314

งานวิจัยก่อนหน้านี้ ซึ่งสัมภาษณ์นักวิจัย 25 คนจากห้องปฏิบัติการ AI แนวหน้าและแวดวงวิชาการ พบว่าหลายคนคาดว่า AI จะเข้ามาทำงานวิจัย AI โดยอัตโนมัติได้ และอาจเกิดวงจรป้อนกลับที่เร่งการพัฒนา ข้อมูลนี้ช่วยอธิบายว่าทำไมผู้คนในแวดวงจึงให้ความสำคัญกับความเป็นไปได้นี้ แต่ไม่ได้แปลว่าการระเบิดทางปัญญาจะเกิดขึ้นอย่างแน่นอน 1

สิ่งที่นักวิจัยอยากให้ผู้กำหนดนโยบายตรวจสอบ

ข้อเรียกร้องในระยะนี้คือการเปิดให้เห็นชัดขึ้นว่า บริษัทต่าง ๆ ใช้ AI ในงานวิจัยและพัฒนามากน้อยเพียงใด ผู้นำและนักวิจัยด้าน AI กว่า 20 คนขอให้ผู้กำหนดนโยบายตรวจสอบความคืบหน้าดังกล่าว และพิจารณามาตรการคุ้มครองเทคโนโลยี 2

การเรียกร้องให้ตรวจสอบไม่ใช่หลักฐานว่าห้องปฏิบัติการ AI ได้ยกการควบคุมงานวิจัยให้ AI ไปแล้ว การมีข้อมูลที่ชัดเจนขึ้นว่า AI ถูกใช้ตรงไหนและอย่างไร จะช่วยให้ผู้กำหนดนโยบายประเมินได้ว่าการกำกับดูแลที่มีอยู่เหมาะสมหรือไม่ เมื่อ AI เข้ามารับงานในกระบวนการพัฒนามากขึ้น 23

ทำไมบางฝ่ายอยากชะลอการพัฒนา

การชะลอที่ประสานกันระหว่างผู้พัฒนาอาจเปิดเวลาให้ทดสอบความปลอดภัย ประเมินระบบโดยผู้ตรวจสอบอิสระ และวางแนวทางกำกับดูแลให้รัดกุมขึ้น ก่อนที่ความสามารถของ AI จะเปลี่ยนไปอีก นักวิจัยจาก OpenAI และ Anthropic เคยเรียกร้องให้ชะลอการพัฒนา ขณะที่ผู้นำในอุตสาหกรรมบางรายสนับสนุนแนวทางที่พึ่งพากลไกตลาดมากกว่า ความเห็นที่ต่างกันสะท้อนว่ายังไม่มีข้อสรุปร่วมกันว่า ควรชะลอมากแค่ไหน หรือการพักการพัฒนาที่ทำได้จริงควรมีหน้าตาอย่างไร 818

ยังมีคำถามในทางปฏิบัติอีกหลายข้อ เช่น จะชะลอระบบหรือกิจกรรมประเภทใด ใครจะตรวจสอบการปฏิบัติตาม และบริษัทที่แข่งขันกันจะประสานงานกันได้อย่างไร รายงานระบุว่าทั้งความหมายของการพักพัฒนาและวิธีบังคับใช้ยังไม่ชัดเจน

“ปุ่มหยุดฉุกเฉิน” ช่วยได้แค่ไหน

แบรด สมิธ ประธานของ Microsoft เสนอว่าผู้สร้างโมเดล ผู้ให้บริการโครงสร้างพื้นฐานคลาวด์ และผู้ดูแลเอเจนต์ AI ควรมีความสามารถในการปิดระบบ แนวคิดนี้มองการปิดระบบเป็นเบรกฉุกเฉินที่อาจใช้ได้ในสถานการณ์จำเป็น ไม่ใช่สิ่งทดแทนการป้องกันความเสี่ยงหรือการกำกับดูแลอย่างต่อเนื่อง

อย่างไรก็ตาม การปิดระบบไม่ได้ง่ายเหมือนกดสวิตช์เดียวแล้วทุกอย่างหยุด เพราะระบบ AI อาจทำงานอยู่บนโครงสร้างพื้นฐานที่กระจายหลายส่วน ผู้เชี่ยวชาญจึงชี้ว่าการเฝ้าติดตามและการแทรกแซงของมนุษย์ยังจำเป็นด้วย

เมื่อผู้กำกับดูแลกับผู้ให้บริการเป็นบริษัทเดียวกัน

ข้อเสนอให้ผู้พัฒนาและผู้ให้บริการคลาวด์มีบทบาทในการกำกับดูแล ทำให้เกิดคำถามเรื่องผลประโยชน์ทับซ้อน บริษัทอาจมีส่วนทั้งในการสร้างหรือให้บริการระบบ และในการควบคุมการใช้งาน Microsoft เป็นทั้งผู้พัฒนา AI และผู้ให้บริการคลาวด์ ดังที่สมิธกล่าวถึงบทบาทของบริษัทในฐานะผู้ให้บริการโครงสร้างพื้นฐาน ประเด็นนี้ทำให้การตรวจสอบที่เป็นอิสระและกติกาที่ชัดเจนมีความสำคัญ แต่ไม่ได้พิสูจน์ว่าจุดยืนด้านความปลอดภัยของบริษัทใดไม่จริงใจ 2

โจทย์ใหญ่อีกข้อคือการประสานงาน ผู้นำในอุตสาหกรรมยังเห็นต่างกันเรื่องความเร็วในการพัฒนา ขณะที่ข้อเรียกร้องให้ชะลอเกิดขึ้นท่ามกลางการแข่งขันอย่างเข้มข้นในการสร้างและนำ AI ออกใช้ การที่บริษัทหนึ่งยับยั้งตัวเองโดยสมัครใจอาจทำได้ยาก หากบริษัทอื่นยังเดินหน้าเร็ว แหล่งข้อมูลยืนยันว่ามีทั้งความเห็นต่างและแรงกดดันจากการแข่งขัน แต่ไม่ได้พิสูจน์ว่าผลประโยชน์จากการลงทุนเป็นตัวกำหนดความเห็นของนักวิจัยแต่ละคน 1218

สิ่งที่ผู้กำหนดนโยบายต้องตอบจึงมีสองด้านที่เชื่อมโยงกัน คือจะติดตามบทบาทของ AI ในการพัฒนา AI ได้อย่างไร และจะทำให้มาตรการป้องกันตรวจสอบได้จริง แทนที่จะอาศัยคำยืนยันจากบริษัทเพียงอย่างเดียว คำเตือนเหล่านี้เป็นเหตุผลให้เริ่มพิจารณาประเด็นดังกล่าวตั้งแต่ตอนนี้ แต่ยังไม่ได้ชี้ชัดว่าการระเบิดทางปัญญามีโอกาสเกิดขึ้นมากเพียงใด หรือมาตรการแบบไหนจะได้ผลดีที่สุด 123