คำตอบเผยแพร่แล้ว13 แหล่งที่มา
อดีตนักวิจัย DeepMind เตือน AI อาจ “ฆ่ามนุษย์ได้ทั้งหมด”
Bilal Chughtai อดีตนักวิจัย Google DeepMind ระบุว่า AI มีศักยภาพที่จะ “ฆ่ามนุษย์ได้ทั้งหมด” และเวลาเพื่อป้องกันผลลัพธ์ดังกล่าวอาจกำลังเหลือน้อยลง คำเตือนนี้เกิดขึ้นหลัง Jacob Coxon และ Evan Hubinger จาก Anthropic แสดงความกังวลต่อการแข่งขันพัฒนา AI ที่ทรงพลังขึ้นอย่างรวดเร็ว โดยตัวเลขความเสี่ยงกว่า 10% ของ Hubinger เ...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Bilal Chughtai อดีตนักวิจัย Google DeepMind ระบุว่า AI มีศักยภาพที่จะ “ฆ่ามนุษย์ได้ทั้งหมด” และเวลาเพื่อป้องกันผลลัพธ์ดังกล่าวอาจกำลังเหลือน้อยลง
- คำเตือนนี้เกิดขึ้นหลัง Jacob Coxon และ Evan Hubinger จาก Anthropic แสดงความกังวลต่อการแข่งขันพัฒนา AI ที่ทรงพลังขึ้นอย่างรวดเร็ว โดยตัวเลขความเสี่ยงกว่า 10% ของ Hubinger เป็นการประเมินส่วนบุคคล ไม่ใช่ฉันทามติทางวิทยาศ...
- ข้อถกเถียงหลักอยู่ที่การกำหนดความเร็วและกติกา: ฝ่ายหนึ่งต้องการการทดสอบความเสี่ยง การประเมินจากภายนอก และอำนาจรัฐในการระงับโมเดลอันตราย ขณะที่อีกฝ่ายกังวลว่าการชะลอจะกระทบความสามารถในการแข่งขันของสหรัฐฯ
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did former Google DeepMind research engineer Bilal Chughtai, who co-authored AI research papers and left the company in July 2026, warn. Article summary: Chughtai’s warning was an existential-risk claim, not a prediction: after leaving DeepMind’s AGI-safety and alignment work, he said AI could “kill all humans” and that the opportunity to avert that outcome might be closi. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Bilal Chughtai ไม่ได้บอกว่า AI จะทำลายมนุษยชาติอย่างหลีกเลี่ยงไม่ได้ แต่เขากำลังส่งสัญญาณเตือนเรื่อง ความเสี่ยงระดับอัตถิภาวนิยม หรือความเสี่ยงต่อการดำรงอยู่ของมนุษย์ หลังลาออกจาก Google DeepMind ซึ่งเขาระบุว่าเคยทำงานด้านความปลอดภัยและการทำให้ปัญญาประดิษฐ์ทั่วไป (AGI) ทำงานสอดคล้องกับเจตนามนุษย์ หรือ alignment เขาเขียนว่า AI มีศักยภาพที่จะ “ฆ่ามนุษย์ได้ทั้งหมด” และโลกอาจกำลังเหลือเวลาไม่มากในการหลีกเลี่ยงผลลัพธ์นี้
สิ่งที่ Chughtai กังวลจริง ๆ
แก่นคำเตือนของ Chughtai คือ ความสามารถของ AI อาจพัฒนาเร็วกว่าความสามารถของมนุษย์ในการทำให้ระบบเหล่านั้นปลอดภัย เชื่อถือได้ และควบคุมได้ เขากังวลกับ “ทิศทางตามแรงเฉื่อย” ของวงการ นั่นคือการแข่งขันระหว่างบริษัทเพื่อสร้างระบบที่มีอำนาจมากขึ้น ก่อนที่งานวิจัยด้านความปลอดภัย มาตรการ alignment และการกำกับดูแลสาธารณะจะพร้อมรับมือ
ทางออกที่เขาเสนอไม่ใช่ให้บริษัทใดบริษัทหนึ่งหยุดลำพัง แต่เป็นการประสานงานร่วมกัน เขาเรียกร้องให้กำหนดจังหวะการพัฒนา AI ให้สังคมรับมือได้ และแก้ความเสี่ยงที่เริ่มปรากฏก่อนจะเกิดความเสียหายร้ายแรง โดยเตือนว่าบริษัทต่าง ๆ ไม่ควรปล่อยให้การแข่งขันกลายเป็น “การแข่งแบบคลุ้มคลั่ง”
ทำไมคำเตือนนี้จึงเป็นที่จับตา
การลาออกของ Chughtai เกิดขึ้นในช่วงที่นักวิจัยและผู้บริหารบริษัท AI หลายคนออกมาแสดงความกังวลต่อความเสี่ยงหายนะจากระบบ AI ขั้นสูงอย่างตรงไปตรงมามากขึ้น
Jacob Coxon อดีตนักวิจัยของ Anthropic กล่าวว่าเขาลาออกเพราะเห็นว่าห้องปฏิบัติการชั้นนำกำลังแข่งกันพัฒนา “ปัญญาประดิษฐ์เหนือมนุษย์” ที่ปรับปรุงตัวเองได้อย่างไม่รับผิดชอบ Coxon ระบุว่าผู้คนที่สร้าง AI เชื่ออย่างจริงจังว่าเทคโนโลยีนี้อาจทำลายมนุษยชาติได้ภายในสิ้นทศวรรษนี้
Evan Hubinger นักวิจัยด้าน alignment ของ Anthropic เห็นด้วยกับข้อกังวลในหลักการ และบอกว่าตนประเมินเป็นการส่วนตัวว่าโอกาสที่ AI จะทำให้มนุษย์สูญพันธุ์ภายใน 10 ปีข้างหน้าสูงกว่า 10% อย่างไรก็ดี เขาแยกความกังวลระยะยาวออกจากโมเดลปัจจุบัน ซึ่งเขามองว่ามีความเสี่ยงต่ำ
ข้อคิดเห็นเหล่านี้เป็นการตัดสินของนักวิจัยแต่ละคน ไม่ใช่ค่าความน่าจะเป็นที่พิสูจน์เชิงประจักษ์หรือฉันทามติทางวิทยาศาสตร์ ประเด็นที่ควรจับตาจึงแคบกว่านั้น: คนบางส่วนที่ทำงานใกล้ชิดกับการพัฒนาโมเดลแนวหน้ามองว่าผลเสียที่อาจเกิดขึ้นรุนแรงพอจะต้องเพิ่มมาตรการป้องกัน ก่อนขีดความสามารถของระบบจะก้าวหน้าไปไกลกว่านี้
เชื่อมกับข้อเสนอให้ชะลอ AI แนวหน้าอย่างไร
แนวคิดของ Chughtai สอดคล้องกับข้อเสนอของ Dario Amodei ซีอีโอ Anthropic ที่ต้องการกำหนดจังหวะการพัฒนา AI ที่ล้ำหน้าที่สุด ขณะเดียวกันก็ยกระดับมาตรการความปลอดภัยและการตรวจสอบจากภายนอก รายงานระบุว่า Sam Altman ซีอีโอ OpenAI และ Elon Musk สนับสนุนแนวคิดชะลอการพัฒนาในระดับอุตสาหกรรมเช่นกัน
ในทางปฏิบัติ นโยบายที่ถูกเสนอไม่ได้หมายถึงการแบน AI อย่างถาวร กรอบ Advanced AI Framework ของ Anthropic เสนอข้อกำหนดสำหรับผู้พัฒนาโมเดลที่มีความสามารถสูงสุด ได้แก่
- ทดสอบความเสี่ยงที่อาจก่อผลกระทบระดับหายนะ;
- ใช้ผู้ประเมินอิสระจากภายนอก;
- เปิดเผยผลการประเมิน ความเสี่ยง และเหตุการณ์ด้านความปลอดภัยอย่างต่อเนื่อง; และ
- ให้ผู้พัฒนารับผิดชอบต่อภาครัฐ ซึ่งควรมีอำนาจยับยั้งหรือสกัดกั้นการนำโมเดลอันตรายไปใช้งาน
1
Anthropic ยังวางนโยบาย Responsible Scaling Policy ในลักษณะ “ถ้า-แล้ว”: หากโมเดลแสดงขีดความสามารถอันตรายตามเกณฑ์ บริษัทไม่ควรนำไปใช้งานหรือฝึกโมเดลที่ทรงพลังกว่า จนกว่าจะมีมาตรการคุ้มครองที่เหมาะสม 8
อีกฝ่ายมองว่า กฎเข้มอาจบั่นทอนความได้เปรียบของสหรัฐฯ
ความเห็นต่างไม่ได้เป็นเพียงเรื่องเทคนิค แต่เกี่ยวข้องกับภูมิรัฐศาสตร์ด้วย ผู้คัดค้านการชะลอเตือนว่า ข้อจำกัดที่เข้มงวดอาจเปิดทางให้รัฐคู่แข่งหรือบริษัทที่ระมัดระวังน้อยกว่าได้เปรียบ
ประธานาธิบดีโดนัลด์ ทรัมป์ ยอมรับว่า AI อาจต้องมีราวกั้นบางอย่าง แต่ลดทอนน้ำหนักของข้ออ้างที่น่ากังวลที่สุด และแสดงความห่วงว่าสหรัฐฯ จะเสียความเป็นผู้นำให้จีน นี่คือความตึงเครียดหลักของการถกเถียง: การชะลอ AI แนวหน้าเป็นการบริหารความเสี่ยงที่จำเป็น หรือเป็นการยอมเสียเปรียบเชิงยุทธศาสตร์ที่ประเทศรับไม่ได้
“AI doomerism” มองถูกอะไร และพลาดอะไร
คำว่า “AI doomerism” มักใช้เรียกแนวคิดที่เชื่อว่า AI ขั้นสูงอาจสร้างภัยถึงขั้นมนุษย์สูญพันธุ์ แต่ป้ายกำกับนี้อาจกลบคำถามเชิงนโยบายที่สำคัญกว่า นั่นคือหลักฐานของความสามารถอันตรายแบบใดที่ควรทำให้เกิดการทดสอบเพิ่ม จำกัดการนำไปใช้ หรือให้หน่วยงานรัฐเข้ามาแทรกแซง
คำเตือนของ Chughtai ไม่ได้พิสูจน์ว่าหายนะจาก AI กำลังจะเกิดขึ้นในทันที สิ่งที่เขาเสนอคือ หากเราตัดสินใจพลาด ผลลัพธ์อาจย้อนกลับไม่ได้ และแรงจูงใจจากการแข่งขันอาจไม่เพียงพอที่จะทำให้ทุกฝ่ายระมัดระวังตามที่สถานการณ์ต้องการ คำตอบของเขาจึงเป็นการกำกับดูแลร่วมกัน: ชะลอการนำระบบไปใช้เมื่อจำเป็น เพิ่มการประเมินความเสี่ยง และทำให้ผู้พัฒนามีความรับผิดชอบที่ชัดเจน ก่อนที่ระบบจะควบคุมได้ยากกว่าเดิม 1
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "อดีตนักวิจัย DeepMind เตือน AI อาจ “ฆ่ามนุษย์ได้ทั้งหมด”" คืออะไร
Bilal Chughtai อดีตนักวิจัย Google DeepMind ระบุว่า AI มีศักยภาพที่จะ “ฆ่ามนุษย์ได้ทั้งหมด” และเวลาเพื่อป้องกันผลลัพธ์ดังกล่าวอาจกำลังเหลือน้อยลง
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Bilal Chughtai อดีตนักวิจัย Google DeepMind ระบุว่า AI มีศักยภาพที่จะ “ฆ่ามนุษย์ได้ทั้งหมด” และเวลาเพื่อป้องกันผลลัพธ์ดังกล่าวอาจกำลังเหลือน้อยลง คำเตือนนี้เกิดขึ้นหลัง Jacob Coxon และ Evan Hubinger จาก Anthropic แสดงความกังวลต่อการแข่งขันพัฒนา AI ที่ทรงพลังขึ้นอย่างรวดเร็ว โดยตัวเลขความเสี่ยงกว่า 10% ของ Hubinger เป็นการประเมินส่วนบุคคล ไม่ใช่ฉันทามติทางวิทยาศ...
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ข้อถกเถียงหลักอยู่ที่การกำหนดความเร็วและกติกา: ฝ่ายหนึ่งต้องการการทดสอบความเสี่ยง การประเมินจากภายนอก และอำนาจรัฐในการระงับโมเดลอันตราย ขณะที่อีกฝ่ายกังวลว่าการชะลอจะกระทบความสามารถในการแข่งขันของสหรัฐฯ