คำตอบเผยแพร่แล้ว17 แหล่งที่มา
Jacob Coxon ลาออกจาก Anthropic เพราะอะไร และคำเตือนเรื่อง AI ควรถูกมองอย่างไร
Jacob Coxon ระบุว่าเขาออกจาก Anthropic เพราะเชื่อว่าการแข่งขันระหว่างห้องแล็บ AI ระดับแนวหน้ากำลังผลักดันการสร้างระบบที่พัฒนาตัวเองได้ เร็วกว่าวิธีรับรองความปลอดภัยและการควบคุมจะตามทัน Evan Hubinger จาก Anthropic ระบุว่าความเสี่ยงจากโมเดลที่มีอยู่ในปัจจุบันอยู่ในระดับต่ำ แต่เขาประเมินเป็นการส่วนตัวว่า AI มีโอกาสมากก...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Jacob Coxon ระบุว่าเขาออกจาก Anthropic เพราะเชื่อว่าการแข่งขันระหว่างห้องแล็บ AI ระดับแนวหน้ากำลังผลักดันการสร้างระบบที่พัฒนาตัวเองได้ เร็วกว่าวิธีรับรองความปลอดภัยและการควบคุมจะตามทัน
- Evan Hubinger จาก Anthropic ระบุว่าความเสี่ยงจากโมเดลที่มีอยู่ในปัจจุบันอยู่ในระดับต่ำ แต่เขาประเมินเป็นการส่วนตัวว่า AI มีโอกาสมากกว่า 10% ที่จะคร่าชีวิตมนุษย์ทั้งหมดภายในทศวรรษนี้ ซึ่งไม่ใช่คำพยากรณ์ที่พิสูจน์ได้
- ข้อถกเถียงขยายเป็นประเด็นนโยบาย: Dario Amodei เสนอให้ชะลอการพัฒนาระบบ AI แนวหน้าและมีผู้ตรวจสอบอิสระ ขณะที่นักวิจารณ์เตือนว่ากฎเข้มงวดอาจเอื้อบริษัท AI รายใหญ่ที่สุด
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What prompted 27-year-old former Anthropic and OpenAI pretraining researcher Jacob Coxon to resign from Anthropic on September 8—two months. Article summary: Coxon said he resigned because he concluded that the leading labs’ competitive incentives—not merely individual technical failures—were driving them toward increasingly autonomous, self-improving systems before anyone kn. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Jacob Coxon ลาออกจาก Anthropic เพื่อคัดค้านสิ่งที่เขามองว่าเป็นพลวัตการแข่งขันอันตรายในวงการ AI ระดับแนวหน้า (frontier AI): บริษัทต่าง ๆ กำลังแข่งกันสร้างระบบที่มีความเป็นอิสระมากขึ้น และอาจพัฒนาตัวเองได้ ทั้งที่ยังไม่มีวิธีควบคุมระบบเหล่านี้ได้อย่างน่าเชื่อถือ เขาซึ่งระบุว่าเคยทำวิจัยด้านการฝึกโมเดลขั้นต้นหรือ pretraining ทั้งที่ Anthropic และ OpenAI เห็นว่าทั้งสองบริษัทดำเนินการอย่างไม่รับผิดชอบเพียงพอ 2
3
ข้อกล่าวหาหลัก: การแข่งขันเร็วเกินกว่าการควบคุม
ในโพสต์ชุดบน X Coxon กล่าวหา Anthropic และ OpenAI ว่า “กำลังแข่งตรงไปสู่ปัญญาประดิษฐ์เหนือมนุษย์ที่พัฒนาตัวเองได้ และนำชีวิตของเราไปเสี่ยงพนัน” ความกังวลของเขาไม่ใช่ว่าแชตบอตในปัจจุบันกำลังจะทำให้มนุษย์สูญพันธุ์ได้ด้วยตัวเอง แต่เป็นความเสี่ยงจากระบบในอนาคตที่อาจเหนือมนุษย์ในงานสำคัญ เช่น ความสามารถด้านไซเบอร์ และอาจเข้าถึงอำนาจหรือทรัพยากรที่มีนัยสำคัญ ก่อนที่มนุษย์จะทำให้ระบบนั้นยึดโยงกับเป้าหมายของมนุษย์ได้อย่างเชื่อถือได้ 3
5
8
จุดแยกนี้สำคัญมาก ข้อโต้แย้งของ Coxon อยู่ที่ การเร่งขีดความสามารถและการกำกับดูแล: หากระบบเก่งขึ้นอย่างรวดเร็ว แต่การทำงานด้านความปลอดภัยตามไม่ทัน ความล้มเหลวที่อาจเกิดขึ้นในท้ายที่สุดก็อาจรุนแรง แม้โมเดลในปัจจุบันยังมีข้อจำกัดอยู่มากก็ตาม
เหตุผลที่เขาเลือกเดินออกมา
Coxon ให้สัมภาษณ์ BBC ว่าคนทำงานกับ AI ขั้นสูง “หวาดกลัวอย่างแท้จริง” ต่อความเร็วของความก้าวหน้า เขากล่าวว่าหากไม่ชะลอความเร็วลง ก็มี “โอกาสสูง” ที่มนุษยชาติอาจตายได้ในอนาคตอันใกล้ 1
เขายังเห็นว่าการชะลออย่างมีความหมายไม่อาจทำได้ด้วยการตัดสินใจฝ่ายเดียวของบริษัทหรือประเทศใดประเทศหนึ่ง แนวทางที่ยั่งยืนต้องอาศัยการประสานงานระหว่างประเทศ รวมถึงกับจีน เพื่อไม่ให้การระมัดระวังของบางฝ่ายเพียงย้ายการพัฒนาเทคโนโลยีที่ทรงพลังกว่าไปยังที่อื่น 1
ดังนั้น การลาออกของเขาจึงเป็นการปฏิเสธแรงจูงใจในระบบการแข่งขันของการพัฒนาโมเดลแนวหน้า มากกว่าจะเป็นข้อกล่าวหาว่าเขาพบเห็นเหตุละเมิดความปลอดภัยที่เฉพาะเจาะจงใน Anthropic ด้วยตนเอง รายงานเกี่ยวกับการลาออกของเขาสรุปข้อกังวลในภาพใหญ่ไว้ว่า บริษัทต่าง ๆ กำลังแข่งสร้างระบบที่อาจควบคุมไม่ได้ 2
นักวิจัยด้านความปลอดภัย AI คนอื่นตอบอย่างไร
คำเตือนของ Coxon ได้รับการสนับสนุนจาก Evan Hubinger นักวิจัยด้านการทำให้ AI สอดคล้องกับคุณค่ามนุษย์ (alignment) ของ Anthropic โดย Hubinger ระบุว่าความเสี่ยงจากโมเดลที่มีอยู่ในปัจจุบันต่ำ แต่เขาประเมินเป็นการส่วนตัวว่าโอกาสที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปีข้างหน้ามีมากกว่า 10% 13
ตัวเลขนี้ควรอ่านอย่างระมัดระวัง เพราะเป็นการประเมินเชิงความเห็นต่อสถานการณ์อนาคตที่มีโอกาสไม่สูงแต่ผลกระทบร้ายแรง ไม่ใช่คำพยากรณ์ที่พิสูจน์เชิงประจักษ์ได้ รายงานรอบการลาออกของ Coxon สะท้อนว่ามีความเห็นต่างอย่างมากเรื่องกรอบเวลา ความน่าจะเป็น และมาตรการป้องกันที่เหมาะสม ไม่ได้ยืนยันว่ามีฉันทามติทางวิทยาศาสตร์ว่ามนุษย์ใกล้สูญพันธุ์ 13
ความเสี่ยงที่จับต้องได้ในตอนนี้: การใช้ผิดทางด้านไซเบอร์และขีดความสามารถที่เร่งตัว
ข้อกังวลที่เป็นรูปธรรมในประเด็นนี้ใกล้เคียงกับการใช้ AI ในทางที่ผิดด้านไซเบอร์ การทดลองที่อันตราย และการเกิดขึ้นของเอเจนต์ AI ที่ทำงานได้มากขึ้น มากกว่าภาพแบบภาพยนตร์ที่ AI ตัดสินใจโจมตีมนุษยชาติเองในทันที
รายงานที่ถูกอ้างถึงในข้อถกเถียงชี้ถึงความกังวลว่าโมเดลขั้นสูงอาจช่วยการเจาะระบบไซเบอร์และการนำไปใช้ผิดทางที่มีผลกระทบสูง อีกทั้งยังมีการอ้างถึงเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ของ OpenAI และ Hugging Face อย่างไรก็ดี ข้อมูลรายงานที่มีอยู่ยังไม่มีรายละเอียดจากแหล่งปฐมภูมิมากพอให้ยืนยันสถานการณ์ การได้รับอนุญาต หรือขอบเขตของเหตุการณ์นั้นอย่างอิสระ 2
63
ข้อสรุปในทางปฏิบัติคือ การถกเถียงเรื่องปัญญาประดิษฐ์เหนือมนุษย์ในอนาคตไม่ควรบดบังคำถามที่ตรวจสอบได้ในวันนี้: โมเดลทำอะไรได้จริง มีการประเมินก่อนเปิดใช้งานอย่างไร ตรวจจับการใช้ผิดทางได้หรือไม่ และใครบ้างที่ตรวจสอบคำกล่าวอ้างด้านความปลอดภัยของห้องแล็บได้อย่างอิสระ
ข้อเสนอของ Amodei: กำหนดจังหวะการพัฒนา ไม่ใช่หยุด AI ทั้งหมด
หลังคำเตือนของ Coxon ไม่นาน Dario Amodei ซีอีโอ Anthropic เรียกร้องให้ชะลออัตราการเพิ่มขีดความสามารถของโมเดล AI แนวหน้า ผ่านบทความชื่อ We Must Pace the Frontier ข้อเสนอของเขาไม่ใช่การหยุดพัฒนา AI โดยสิ้นเชิง แต่ต้องการเวลาเพิ่มเพื่อให้การป้องกันความเสี่ยงตามทันขีดความสามารถที่ก้าวหน้าเร็ว 1
กรอบแนวทางที่มีรายงานประกอบด้วย
- การติดตามและประเมินโมเดล AI แนวหน้าโดยหน่วยงานอิสระ
- มาตรฐานความปลอดภัยร่วมกันในอุตสาหกรรมและกลุ่มประเทศประชาธิปไตย
- การประสานงานระหว่างประเทศด้านธรรมาภิบาล AI ในระยะต่อไป รวมถึงการมีส่วนร่วมกับจีน
1
Sam Altman ซีอีโอ OpenAI สนับสนุนทิศทางโดยรวมต่อสาธารณะ และกล่าวว่าการให้ผู้ประเมินอิสระเข้าถึงระบบในระดับใกล้เคียงพนักงานเป็นแนวคิดที่ดี Elon Musk ก็สนับสนุนข้อเรียกร้องของ Amodei โดยเขียนว่า “Dario is right” 1
เหตุใดนักวิจารณ์จึงมองว่าเป็นปัญหาด้านนโยบายการแข่งขัน
ข้อเสนอด้านความปลอดภัยจากห้องแล็บ AI แนวหน้ารายใหญ่ได้รับทั้งเสียงสนับสนุนและความกังขา นักวิจารณ์ รวมถึง Clément Delangue ซีอีโอ Hugging Face มองว่าข้อจำกัดที่เข้มงวดต่อโมเดลแนวหน้าอาจเอื้อบริษัทที่มีเงินทุนมากพอจะรับต้นทุนการปฏิบัติตามกฎได้อยู่แล้ว 1
3
คำวิจารณ์นี้ไม่ได้พิสูจน์ว่าความกังวลของ Coxon ไม่จริงใจ แต่ตั้งคำถามอีกชั้นหนึ่งว่า กฎความปลอดภัยอาจลดความเสี่ยงจริง ขณะเดียวกันก็รวมศูนย์อำนาจไว้กับห้องแล็บรายใหญ่เพียงไม่กี่แห่งได้หรือไม่
นี่คือแรงตึงเครียดที่เป็นหัวใจของการถกเถียง ระบบกำกับดูแลที่น่าเชื่อถือต้องเพิ่มการตรวจสอบระบบที่มีขีดความสามารถสูงที่สุด โดยไม่เปลี่ยนข้อกำหนดด้านความปลอดภัยให้กลายเป็นคูเมืองป้องกันการแข่งขันสำหรับบริษัทเพียงกลุ่มเล็ก ๆ
บทสรุป
Coxon ลาออกเพราะเขาสรุปว่าการแข่งขันระหว่างบริษัท AI ชั้นนำคืออันตรายในตัวเอง แรงจูงใจให้เร่งขีดความสามารถอาจมีน้ำหนักมากกว่าเวลาที่จำเป็นต่อการวางระบบควบคุม การทดสอบ และการประสานงานระหว่างประเทศ 2
3
คำกล่าวที่รุนแรงที่สุดของเขายังเป็นข้อถกเถียง คำเตือนนี้สะท้อนความกังวลจริงจังของคนบางส่วนในวงการ AI แต่ไม่ใช่หลักฐานว่าการสูญพันธุ์ของมนุษย์กำลังจะเกิดขึ้น ความท้าทายด้านนโยบายที่เร่งด่วนกว่าคือการสร้างมาตรการคุ้มครองที่ตรวจสอบได้โดยอิสระสำหรับระบบที่มีความสามารถสูงขึ้นเรื่อย ๆ พร้อมทำให้มั่นใจว่ามาตรการดังกล่าวจะไม่เพียงตอกย้ำอำนาจของบริษัทผู้สร้างระบบเหล่านั้น 1
13
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Jacob Coxon ลาออกจาก Anthropic เพราะอะไร และคำเตือนเรื่อง AI ควรถูกมองอย่างไร" คืออะไร
Jacob Coxon ระบุว่าเขาออกจาก Anthropic เพราะเชื่อว่าการแข่งขันระหว่างห้องแล็บ AI ระดับแนวหน้ากำลังผลักดันการสร้างระบบที่พัฒนาตัวเองได้ เร็วกว่าวิธีรับรองความปลอดภัยและการควบคุมจะตามทัน
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Jacob Coxon ระบุว่าเขาออกจาก Anthropic เพราะเชื่อว่าการแข่งขันระหว่างห้องแล็บ AI ระดับแนวหน้ากำลังผลักดันการสร้างระบบที่พัฒนาตัวเองได้ เร็วกว่าวิธีรับรองความปลอดภัยและการควบคุมจะตามทัน Evan Hubinger จาก Anthropic ระบุว่าความเสี่ยงจากโมเดลที่มีอยู่ในปัจจุบันอยู่ในระดับต่ำ แต่เขาประเมินเป็นการส่วนตัวว่า AI มีโอกาสมากกว่า 10% ที่จะคร่าชีวิตมนุษย์ทั้งหมดภายในทศวรรษนี้ ซึ่งไม่ใช่คำพยากรณ์ที่พิสูจน์ได้
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ข้อถกเถียงขยายเป็นประเด็นนโยบาย: Dario Amodei เสนอให้ชะลอการพัฒนาระบบ AI แนวหน้าและมีผู้ตรวจสอบอิสระ ขณะที่นักวิจารณ์เตือนว่ากฎเข้มงวดอาจเอื้อบริษัท AI รายใหญ่ที่สุด