Yakovenko เหน็บ “กำไรที่มูลค่าตลาด 1 ล้านล้านดอลลาร์” หมายความว่าอย่างไรในดีเบตชะลอ AI

คำตอบสั้น ๆ ของ Anatoly Yakovenko ผู้ร่วมก่อตั้ง Solana ที่ว่า “Profitability at $1 trillion mcap” หรือ “การทำกำไรที่มูลค่าตลาด 1 ล้านล้านดอลลาร์” เป็นคำเหน็บต่อแรงจูงใจเบื้องหลังข้อเสนอให้ชะลอการพัฒนา AI ระดับแนวหน้า

คำว่า mcap ย่อมาจาก market capitalization หรือมูลค่าหลักทรัพย์ตามราคาตลาด เขาดูจะสื่อว่า การชะลอแบบที่ทั้งอุตสาหกรรมทำร่วมกันอาจสอดคล้องกับผลประโยชน์ทางธุรกิจของบริษัท AI ขนาดใหญ่และมีมูลค่าสูง ซึ่งต้องเปลี่ยนต้นทุนการพัฒนาโมเดลที่สูงให้เป็นกำไรอย่างยั่งยืน อย่างไรก็ดี นี่เป็นเพียงการตีความคำพูดของเขา ไม่ใช่หลักฐานว่า Anthropic, OpenAI หรือบริษัทใดดำเนินการด้วยแรงจูงใจนี้ Yakovenko ไม่ได้ระบุชื่อบริษัท ไม่ได้ให้ข้อมูลการเงิน และไม่ได้เชื่อมโยงข้อพิพาทนี้กับ Solana หรือเหรียญ SOL แต่อย่างใด 3541

เขากำลังวิจารณ์อะไร

ใจความของคำเหน็บคือความกังวลที่นักวิจารณ์มีต่อข้อเสนอ “คุมจังหวะ” การพัฒนา AI ทั้งอุตสาหกรรม: กติกาที่ทำให้ทุกคนช้าลง อาจเป็นภาระที่แล็บ AI รายใหม่หรือรายเล็กรับมือได้ยากกว่า แต่บริษัทที่มีเงินทุนและทรัพยากรพร้อมอยู่แล้วอาจรับผลกระทบได้ง่ายกว่า

คำวิจารณ์นี้ยังตั้งคำถามต่อภาพที่ผู้นำ AI เพียงไม่กี่รายมาร่วมกันกำหนดว่าเทคโนโลยีทั้งวงการควรเดินหน้าเร็วแค่ไหน กรอบความปลอดภัยจึงอาจถูกมองว่าเป็นการประสานงานที่เอื้อผู้ครองตลาดเดิม หรือเป็น “regulatory capture” คือผู้มีส่วนได้เสียเข้ามามีบทบาทกำหนดกฎที่ท้ายที่สุดช่วยปกป้องฐานะของตนเอง

แต่ไม่ควรนำข้อกล่าวหานี้ไปสรุปเป็นข้อเท็จจริงเรื่องเจตนาของ Dario Amodei หลักฐานที่มีสนับสนุนเพียงว่า Yakovenko ตั้งข้อสงสัยต่อแรงจูงใจของข้อเสนอ ไม่ได้พิสูจน์ว่าแรงกดดันด้านกำไร การบริหารมูลค่ากิจการ ต้นทุนโครงสร้างพื้นฐาน หรือแผนเข้าตลาดหุ้น เป็นสาเหตุที่ Anthropic เสนอให้ชะลอการพัฒนา 3543

แผน “pace the frontier” เสนออะไรจริง ๆ

ในบทความ We Must Pace the Frontier เมื่อวันที่ 12 กันยายน Dario Amodei ซีอีโอ Anthropic เสนอให้ลดความเร็วในการเพิ่มขีดความสามารถของ AI เพื่อให้งานด้านความปลอดภัย การทำให้โมเดลทำงานสอดคล้องกับเป้าหมายมนุษย์ (alignment) และการประเมินภายนอกตามทัน เขาย้ำว่า “pacing” ไม่ได้หมายถึงการหยุดฝึกโมเดลหรือหยุดความก้าวหน้าทางเทคนิค 7

แผนมี 3 ขั้นที่ขยายระดับการประสานงานขึ้นไปเรื่อย ๆ ดังนี้

1. ผู้ประเมินภายนอกแบบฝังตัวในองค์กร — แล็บ AI ระดับแนวหน้าจะให้ผู้ประเมินอิสระเข้าถึงระบบอย่างต่อเนื่องในระดับคล้ายพนักงาน เพื่อตรวจสอบมาตรการป้องกัน ประเมิน alignment ระหว่างการฝึก และรายงานเหตุการณ์ Anthropic ระบุว่าจะทำขั้นนี้ฝ่ายเดียวก่อน 716
2. การประสานงานในกลุ่มประเทศประชาธิปไตย — แล็บ AI และรัฐบาลในประเทศประชาธิปไตยร่วมพัฒนามาตรฐานความปลอดภัยและข้อจำกัดด้านจังหวะการพัฒนาที่ใช้ร่วมกัน 7
3. ข้อตกลงระหว่างประเทศในวงจำกัด — รัฐบาลเจรจาข้อตกลงที่แคบกว่าและตรวจสอบได้กับประเทศอื่น ซึ่งอาจรวมถึงจีนและรัฐบาลอำนาจนิยม ในประเด็นที่สามารถพิสูจน์การปฏิบัติตามและยับยั้งซึ่งกันและกันได้ 78

ความแตกต่างสำคัญคือ ขั้นแรกเป็นคำมั่นระดับบริษัทที่ Anthropic ระบุว่าจะดำเนินการ ส่วนขั้นที่สองและสามต้องอาศัยความร่วมมือระหว่างบริษัทและรัฐบาล จึงยังเป็นข้อเสนอ ไม่ใช่มาตรการที่มีผลบังคับใช้แล้ว 9

เหตุใดจึงถูกวิจารณ์ว่าเสี่ยงเป็น “คาร์เทล”

ข้อถกเถียงไม่ได้อยู่แค่ว่าบริษัทควรทดสอบ AI ให้รอบคอบขึ้นหรือไม่ แต่อยู่ที่ว่าใครเป็นผู้กำหนดจังหวะ เกณฑ์ใดที่จะสั่งให้ชะลอ และมาตรฐานร่วมจะจำกัดคู่แข่งมากน้อยเพียงใด

David Sacks แย้งว่า Anthropic และ OpenAI ไม่จำเป็นต้องขออนุญาตใครหากเชื่อว่า AI ของตนมีความเสี่ยงร้ายแรง เพราะสามารถชะลอการพัฒนาด้วยตนเองได้ สิ่งที่เขาคัดค้านคือการอ้างความปลอดภัยเพื่อผลักดันกรอบกำกับดูแลหรือข้อยกเว้นด้านการแข่งขันที่อาจผูกมัดคู่แข่ง เขาเตือนความเสี่ยงที่ “ดูโอพอลี” หรือผู้เล่นรายใหญ่เพียงสองรายจะใช้กติกาปกป้องสถานะของตน 5052

นี่คือรูปแบบที่หนักแน่นที่สุดของข้อกังวลเบื้องหลังคำพูด Yakovenko: คำมั่นด้านความปลอดภัยโดยสมัครใจเป็นเรื่องหนึ่ง แต่ข้อจำกัดร่วมทั้งอุตสาหกรรมอาจเปลี่ยนทั้งมาตรฐานความปลอดภัยและสภาพการแข่งขัน

Altman และ Musk สนับสนุนแค่ไหน

Sam Altman ซีอีโอ OpenAI ระบุว่าเห็นด้วยกับความจำเป็นในการ “pace the frontier” และเรียกแนวคิดให้ผู้ประเมินอิสระเข้าถึงระบบในระดับคล้ายพนักงานว่าเป็น “ไอเดียที่ดีมาก” พร้อมบอกว่า OpenAI จะทำเช่นเดียวกัน ส่วน Elon Musk ตอบสั้น ๆ ว่า “Dario is right” 1821

อย่างไรก็ตาม คำตอบทั้งสองยังไม่ได้ตอบโจทย์ยากกว่าเรื่องการประสานงานระหว่างประเทศ ข้อจำกัดความเร็วที่บังคับใช้ได้ หรือกรอบร่วมของทั้งอุตสาหกรรม สิ่งที่ทั้งคู่สนับสนุนอย่างชัดเจนที่สุดคือแนวคิดผู้ประเมินแบบฝังตัวในองค์กร 1820

รายละเอียดสำคัญที่ยังไม่มีคำตอบ

การกำกับดูแลจากภายนอกจะมีความหมายจริงต่อเมื่อมีกติกาการทำงานที่ชัดเจน แต่ประเด็นต่อไปนี้ยังไม่ปรากฏข้อสรุปในข้อมูลที่มี:

• ความเป็นอิสระ: ใครเลือกและออกเงินให้ผู้ประเมิน และอะไรรับประกันว่าพวกเขาเป็นอิสระจากแล็บที่ตรวจสอบ
• ขอบเขตการเข้าถึง: ผู้ประเมินดูระบบ กระบวนการฝึก รายงานเหตุการณ์ น้ำหนักโมเดล ข้อมูล และเครื่องมือภายในได้แค่ไหน
• สิทธิในการเปิดเผย: ผู้ประเมินเผยแพร่ข้อค้นพบเชิงลบได้โดยไม่ต้องได้รับอนุมัติจากบริษัทหรือไม่
• เกณฑ์ตัดสินใจ: ผลทดสอบหรือระดับความเสี่ยงใดที่จะทำให้ต้องเลื่อนการฝึก การนำไปใช้งาน หรือการเปิดตัวโมเดล
• การบังคับใช้: ใครทำให้บริษัทปฏิบัติตามข้อค้นพบของผู้ประเมิน
• การแข่งขันและความมั่นคง: บริษัทจะร่วมกำหนดมาตรฐานความปลอดภัยโดยไม่แลกเปลี่ยนข้อมูลธุรกิจอ่อนไหว หรือก่อปัญหากฎหมายการแข่งขันได้อย่างไร
• การตรวจสอบระหว่างประเทศ: ข้อตกลงกับจีนหรือรัฐบาลอื่นจะน่าเชื่อถือและตรวจสอบได้ด้วยกลไกใด

ช่องว่างเหล่านี้อธิบายว่าทำไมนักวิจารณ์จึงกังวลเรื่องกฎที่คลุมเครือและถูกควบคุมโดยเจ้าตลาด ขณะที่ผู้สนับสนุนมองว่าเป็นความพยายามทำให้คำกล่าวอ้างด้านความปลอดภัยถูกตรวจสอบภายนอกอย่างต่อเนื่อง 1053

การเมือง: ชะลออย่างมีจังหวะ หรือหยุดให้เด็ดขาด

Senator Bernie Sanders มองการที่ Amodei, Altman และ Musk เห็นพ้องในระดับหนึ่งว่าเป็นเหตุผลสนับสนุนมาตรการเข้มกว่านั้น โดยเรียกร้องให้พักการพัฒนา AI และห้าม “superintelligence” หรือ AI ที่มีความสามารถเหนือมนุษย์ 48

ข้อเสนอของ Amodei แคบกว่าการห้ามโดยสิ้นเชิง เพราะเสนอความเร็วที่สมดุลเพื่อให้มีเวลาทำ alignment และตรวจสอบความปลอดภัย 7 ฝั่ง Sacks กลับเห็นว่าบริษัทที่กังวลเรื่องความเสี่ยงควรลดความเร็วด้วยตนเอง แทนการขอกรอบประสานงานที่ใช้บังคับกับบริษัทอื่น 52

โจทย์เชิงนโยบายจึงชัดแต่ตอบยาก: การชะลอแล็บ AI แนวหน้าของสหรัฐฯ อาจเพิ่มความกังวลเรื่องความสามารถในการแข่งขัน โดยเฉพาะเทียบกับจีน ขณะเดียวกัน การแข่งขันแบบไร้เบรกก็อาจทำให้การประเมินความปลอดภัยและการกำกับดูแลตามไม่ทันความสามารถของโมเดล แผนของ Amodei พยายามรับมือแรงกดดันทั้งสองด้านผ่านการกำกับดูแลเป็นขั้นและความร่วมมือระหว่างประเทศในระยะต่อไป แต่ส่วนที่สำคัญที่สุดยังไม่มีกลไกบังคับใช้ที่ตกลงร่วมกัน 74

บทสรุป

ประโยคของ Yakovenko ไม่ใช่ข้อค้นพบทางการเงิน แต่เป็นคำยั่วยุให้ตั้งคำถามเรื่องแรงจูงใจ เขาวางภาพว่าการผลักดันให้ชะลอ AI อาจเข้ากันได้กับผลประโยชน์เชิงพาณิชย์ของแล็บรายใหญ่ที่ต้องรักษามูลค่าระดับสูงและพิสูจน์ความสามารถในการทำกำไร แต่ข้อมูลสาธารณะที่ให้มายังไม่ยืนยันข้อกล่าวหานี้ และไม่ได้พิสูจน์ว่าเป้าหมายเข้าตลาดหุ้นเป็นเหตุของข้อเสนอ

สิ่งที่เป็นรูปธรรมกว่าคือ Anthropic ให้คำมั่นว่าจะเปิดทางให้ผู้ประเมินภายนอกแบบฝังตัวเข้าถึงระบบ OpenAI แสดงการสนับสนุนแนวทางนี้ และแผนที่กว้างกว่านั้นเกี่ยวกับข้อจำกัดด้านความปลอดภัยร่วมกันยังเป็นที่ถกเถียง คำถามสำคัญจึงไม่ใช่เพียง AI ระดับแนวหน้าควรถูกประเมินเข้มงวดขึ้นหรือไม่ แต่คือบริษัทที่อยู่ใกล้แนวหน้าที่สุดควรมีอำนาจร่วมกำหนดกติกาว่าใครแข่งขันในสนามนี้ได้เพียงใดหรือไม่ 71850