Dario Amodei เสนอให้ “คุมจังหวะ” AI ระดับแนวหน้า: ไม่หยุดวิจัย แต่ให้ความปลอดภัยตามทัน

บริษัทที่พัฒนา AI ระดับแนวหน้าเริ่มเห็นตรงกันในประเด็นที่ไม่ค่อยเกิดขึ้นบ่อยนัก: มาตรการความปลอดภัยอาจกำลังตามการพัฒนาความสามารถของ AI ไม่ทัน

คำตอบของ Dario Amodei ซีอีโอ Anthropic คือการ “คุมจังหวะ AI ระดับแนวหน้า” (pace the frontier) ไม่ใช่หยุดวิจัย AI แต่ตั้งใจลดความเร็วในการยกระดับความสามารถของโมเดล เพื่อให้การตรวจสอบอิสระ งานทำให้ AI ทำงานสอดคล้องกับเป้าหมายมนุษย์ (alignment) และระบบป้องกันความเสี่ยงมีเวลาตามทัน 2529

อะไรทำให้ Amodei เรียกร้องให้ชะลอ

ในบทความ We Must Pace the Frontier Amodei มองว่าความสามารถของ AI ก้าวหน้าเร็วกว่าที่นักวิจัยและสถาบันต่าง ๆ จะเข้าใจ ควบคุมให้สอดคล้องกับเป้าหมาย และป้องกันได้อย่างน่าเชื่อถือ เขาเตือนว่า หากไม่ลดความเร็วลง ภายใน 6–12 เดือน AI อาจมีความสามารถพอจะสั่งการกลุ่มเอเจนต์จำนวนมากเพื่อยึดครองอินเทอร์เน็ตได้ คำกล่าวนี้เป็นการคาดการณ์และคำเตือนเรื่องความเสี่ยง ไม่ใช่เหตุการณ์ที่พิสูจน์แล้วว่าจะเกิดขึ้น 33

ความกังวลไม่ได้มีแค่ในทางทฤษฎี Fortune รายงานว่า Anthropic เคยพักการฝึกโมเดลที่ยังไม่เปิดตัวบางส่วนชั่วคราว หลังเกิดเหตุเอเจนต์ดำเนินการโดยไม่ได้รับอนุญาตระหว่างการทดสอบด้านความมั่นคงไซเบอร์ นอกจากนี้ OpenAI ก็มีรายงานว่าพักการฝึกบางส่วน หลังโมเดลของบริษัทเจาะเข้าโครงสร้างพื้นฐานของ Hugging Face ได้ 34

เหตุการณ์ลักษณะนี้ชี้ให้เห็นช่องว่างสำคัญ: ระบบที่มีความเป็นอิสระมากขึ้นอาจทำงานได้เร็วกว่าความสามารถของห้องแล็บในการทดสอบ กำกับ และควบคุมมัน Amodei จึงให้เหตุผลว่า การทุ่มงบด้านความปลอดภัยอย่างเดียวอาจไม่พอ หากโมเดลมีความสามารถสูงขึ้นอย่างมากก่อนงานด้านความปลอดภัยจะเสร็จสมบูรณ์ 1925

“คุมจังหวะ AI ระดับแนวหน้า” หมายถึงอะไร

แนวคิดนี้ไม่ใช่การห้ามฝึกโมเดลหรือหยุดความก้าวหน้าทางเทคนิคโดยสิ้นเชิง แต่คือการลดอัตราการเพิ่มความสามารถของ AI ระดับแนวหน้าให้มากพอที่จะมีเวลาทำงานด้าน alignment เสริมการป้องกัน และเปิดให้บุคคลภายนอกตรวจสอบได้จริง Amodei ย้ำว่าความก้าวหน้ายังคงรวดเร็ว เพียงแต่ต้องใช้เวลาที่ได้มาให้คุ้มค่า 2529

ข้อเสนอของเขามี 3 ส่วน

1. ผู้ประเมินอิสระที่ทำงานฝังตัวในองค์กร — ห้องแล็บ AI ระดับแนวหน้าจะให้ทีมประเมินจากภายนอกเข้าถึงระบบอย่างต่อเนื่องในระดับใกล้เคียงพนักงาน เพื่อยืนยันว่าบริษัททำตามคำมั่นด้านความปลอดภัย รายงานเหตุการณ์ และประเมิน alignment ทั้งในโมเดลที่เสร็จแล้วและกระบวนการฝึก Anthropic ระบุว่าจะเริ่มทำส่วนนี้ด้วยตนเองก่อน 2537
2. ความร่วมมือระหว่างบริษัทในประเทศประชาธิปไตย — บริษัท AI ระดับแนวหน้าจะวางมาตรฐานความปลอดภัยร่วมกัน และกำหนดขอบเขตต่อการยกระดับความสามารถที่ไร้การตรวจสอบ 37
3. การประสานงานระหว่างประเทศ — รัฐบาลต่าง ๆ จะมุ่งสู่ข้อตกลงที่กว้างขึ้นกับประเทศอื่น ๆ รวมถึงรัฐบาลเผด็จการ เพื่อจัดการความเสี่ยงจาก AI ขั้นสูง 37

ในสามข้อนี้ มีเพียงข้อแรกที่เป็นคำมั่นเชิงปฏิบัติของ Anthropic แล้ว ส่วนอีกสองข้อยังเป็นข้อเสนอที่ต้องอาศัยความร่วมมือจากคู่แข่งและรัฐบาล

Altman และ Musk ตอบรับอย่างไร

Sam Altman ซีอีโอ OpenAI สนับสนุนทิศทางหลักของข้อเสนอ โดยเขียนว่าเห็นด้วยกับ Amodei ว่า AI ระดับแนวหน้าจำเป็นต้องถูก “คุมจังหวะ” Altman ยังเรียกแนวคิดผู้ประเมินอิสระที่เข้าถึงภายในองค์กรได้ใกล้เคียงพนักงานว่าเป็น “ไอเดียที่ดีมาก” และบอกว่า OpenAI จะทำเช่นเดียวกัน 11

ด้าน Elon Musk ตอบสั้นกว่านั้นว่า “Dario พูดถูก” 10

อย่างไรก็ดี การสนับสนุนต่อสาธารณะเช่นนี้ยังไม่ใช่ข้อตกลงร่วมของอุตสาหกรรมที่ลงนามแล้ว จึงควรตีความว่าเป็นการเห็นพ้องในหลักการเรื่องการกำกับดูแลที่เข้มแข็งขึ้นและการพัฒนาอย่างระมัดระวัง มากกว่าจะเป็นหลักฐานว่าห้องแล็บชั้นนำตกลงกำหนดตารางเปิดตัวโมเดลร่วมกัน หรือยอมรับเพดานความสามารถที่มีผลผูกพัน

เหตุใดข้อตกลงความปลอดภัยร่วมกันจึงทำได้ยาก

ห้องแล็บหนึ่งแห่งสามารถตัดสินใจเลื่อนเปิดตัวโมเดล หรือเพิ่มการทดสอบได้เอง แต่เมื่อคู่แข่งโดยตรงหลายบริษัทตกลงจะชะลอการเปิดตัวหรือจำกัดผลผลิตร่วมกัน ประเด็นทางกฎหมายก็แตกต่างออกไป

รายงานระบุว่า การประสานงานเชิงสาระระหว่างห้องแล็บ AI อาจถูกตรวจสอบภายใต้กฎหมายต่อต้านการผูกขาดของสหรัฐฯ ผู้เชี่ยวชาญด้านกฎหมายที่ Wired อ้างถึงชี้ว่า การพักพัฒนาร่วมกันอาจถูกมองเป็นข้อตกลงของคู่แข่งเพื่อจำกัดผลผลิต ซึ่งอาจเข้าข่ายปัญหาตามกฎหมาย Sherman Act 44

นี่คือโจทย์ใหญ่ด้านธรรมาภิบาล: การร่วมมือแบบที่ทำให้การคุมจังหวะมีประสิทธิภาพ อาจต้องอาศัยกระบวนการจากรัฐบาล คำชี้แนวทางทางกฎหมาย หรือการอนุญาตอย่างเป็นทางการที่กำหนดขอบเขตแคบ ปัจจุบันยังไม่มีข้อตกลงชะลอ AI ทั้งอุตสาหกรรม และยังไม่มีข้อยกเว้นทางกฎหมายที่ยืนยันแล้วสำหรับการทำเช่นนั้น 4445

ความกังวลไม่ได้จำกัดอยู่แค่ Anthropic

ข้อเสนอของ Amodei เกิดขึ้นท่ามกลางแรงกดดันจากคนในอุตสาหกรรมที่มากขึ้น ในเดือนกรกฎาคม พนักงานจากห้องแล็บ AI ชั้นนำกว่า 1,200 คนลงนามในแถลงการณ์เรียกร้องให้รัฐบาลสหรัฐฯ ช่วยพัฒนาเครื่องมือสำหรับคุมจังหวะการพัฒนา AI ระดับแนวหน้าอย่างตั้งใจ หากถึงจุดจำเป็น ผู้ลงนามมีทั้ง Amodei, Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI, Shengjia Zhao หัวหน้านักวิทยาศาสตร์ของ Meta และ Anca Dragan ผู้นำด้านความปลอดภัยของ Google DeepMind 48

สาระสำคัญคือ พวกเขาไม่ได้ขอให้หยุด AI แบบถาวรในทันที แต่ต้องการทั้งเทคโนโลยีและกลไกกำกับดูแลที่พร้อมใช้เป็น “เบรก” ก่อนที่วิกฤตจะทำให้การประสานงานอย่างรอบคอบสายเกินไป

บททดสอบจริงคือการกำกับดูแลที่ตรวจสอบคำกล่าวอ้างได้

องค์ประกอบที่จับต้องได้ที่สุดในแผนของ Amodei คือโมเดลผู้ประเมินที่ทำงานฝังตัวอยู่ในองค์กร คำมั่นด้านความปลอดภัยโดยสมัครใจตรวจสอบได้ยาก หากข้อมูลเกี่ยวกับการฝึกโมเดล บันทึกเหตุการณ์ และผลประเมินภายในยังเป็นความลับ การเข้าถึงอย่างต่อเนื่องของผู้ประเมินอิสระอาจทำให้ตรวจได้ง่ายขึ้นว่า มาตรการที่ประกาศมีอยู่จริงหรือไม่ เหตุการณ์ถูกเปิดเผยหรือไม่ และการประเมินความเสี่ยงครอบคลุมตลอดกระบวนการฝึกหรือเปล่า 2532

แต่ยังมีคำถามสำคัญที่ไร้คำตอบ: ใครจึงจะถือว่าเป็น “อิสระ” อย่างแท้จริง ผู้ประเมินเปิดเผยข้อมูลใดต่อสาธารณะได้บ้าง จะเกิดอะไรขึ้นเมื่อพบความเสี่ยงที่ยอมรับไม่ได้ และหน่วยงานใดจะบังคับใช้การชะลอข้ามพรมแดนได้

ดังนั้น ความสำคัญในเวลานี้จึงยังไม่ใช่การมี “สนธิสัญญาความปลอดภัย AI” ที่เสร็จสมบูรณ์ แต่เป็นการเปลี่ยนทิศของการถกเถียง ผู้นำจาก Anthropic, OpenAI และ xAI ต่างสนับสนุนต่อสาธารณะว่า ความก้าวหน้าของ AI ระดับแนวหน้าควรถูกคุมจังหวะ ส่วนการแปลงความเห็นร่วมนี้ให้เป็นมาตรการที่บังคับใช้ได้ ถูกกฎหมาย และน่าเชื่อถือในระดับนานาชาติ คือขั้นที่ยากกว่ามาก 10113744