คำตอบเผยแพร่แล้ว22 แหล่งที่มา
AI อาจทำให้มนุษย์สูญพันธุ์จริงหรือ? เมื่อคำเตือนจากคนในชนกับข้อเรียกร้องเรื่องหลักฐาน
ตัวเลขโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปี เป็นการประเมินส่วนบุคคลของ Evan Hubinger ไม่ใช่ความน่าจะเป็นทางวิทยาศาสตร์ที่วัดได้ Jacob Coxon และ Bilal Chughtai ทำให้เสียงเตือนดังขึ้น แต่ฝ่ายสงสัยโต้ว่า AI ที่ทำงานเก่งบนคอมพิวเตอร์ไม่ได้แปลว่าจะมีทรัพยากรและความสามารถก่ออันตรายร้ายแรงในโลกจริงทัน...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- ตัวเลขโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปี เป็นการประเมินส่วนบุคคลของ Evan Hubinger ไม่ใช่ความน่าจะเป็นทางวิทยาศาสตร์ที่วัดได้
- Jacob Coxon และ Bilal Chughtai ทำให้เสียงเตือนดังขึ้น แต่ฝ่ายสงสัยโต้ว่า AI ที่ทำงานเก่งบนคอมพิวเตอร์ไม่ได้แปลว่าจะมีทรัพยากรและความสามารถก่ออันตรายร้ายแรงในโลกจริงทันที
- จุดร่วมเชิงปฏิบัติคือให้การพัฒนาระบบ AI ระดับแนวหน้าดำเนินช้าลง เปิดให้มีการประเมินอิสระ และพิสูจน์มาตรการควบคุมความปลอดภัยควบคู่กับการจัดการความเสี่ยงที่เกิดขึ้นแล้ว
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: How is the current debate over whether advanced artificial intelligence could cause human extinction unfolding, including Jacob Coxon’s resi. Article summary: The debate is becoming less about whether AI poses any danger and more about what kind of evidence and governance threshold should apply before frontier systems become substantially more capable. There is no empirical ba. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
ข้อถกเถียงว่า AI อาจทำให้มนุษย์สูญพันธุ์หรือไม่นั้น ไม่ได้แบ่งเป็นเพียงสองฝ่ายระหว่างคนที่มองว่า AI ปลอดภัยกับคนที่มองว่าอันตราย แต่เป็นข้อพิพาทเรื่องสำคัญกว่า 3 ข้อ คือ ความสามารถของ AI จะพัฒนาเร็วเพียงใด ต้องเกิดเงื่อนไขอะไรบ้างก่อนที่ระบบหนึ่งจะสร้างความเสียหายซึ่งย้อนกลับไม่ได้ และสังคมควรเรียกร้องหลักฐานมากแค่ไหนก่อนกำหนดข้อจำกัดที่เข้มงวดขึ้น
คำเตือนระลอกล่าสุดจากนักวิจัยที่เคยทำงานในห้องแล็บ AI ชั้นนำทำให้ประเด็นนี้ร้อนแรงขึ้น อย่างไรก็ดี แม้ผู้ที่ไม่เชื่อว่าวิกฤตสูญพันธุ์กำลังใกล้เข้ามามักยังสนับสนุนการทดสอบและมาตรการด้านความปลอดภัย คำถามเชิงนโยบายจึงกำลังเปลี่ยนไปสู่เรื่องว่า บริษัทผู้พัฒนาจะพิสูจน์ได้หรือไม่ว่ายังควบคุมและนำระบบที่ทรงพลังขึ้นไปใช้งานได้อย่างปลอดภัย
คำเตือนจากคนใน: การแข่งขันสู่ระบบที่อาจควบคุมไม่ได้
Jacob Coxon อดีตนักวิจัยของ Anthropic ซึ่งระบุว่าเคยทำงานกับ OpenAI ด้วย ลาออกในเดือนกันยายน 2026 และกล่าวหาว่าทั้งสองบริษัทให้น้ำหนักกับการแข่งขันมากกว่าการพัฒนาอย่างรับผิดชอบ เขาระบุว่าบริษัทกำลังแข่งกันมุ่งสู่ “ปัญญาประดิษฐ์เหนือมนุษย์ที่พัฒนาตัวเองได้” 49
คำเตือนนี้ได้รับการสนับสนุนในที่สาธารณะจาก Evan Hubinger หัวหน้าฝ่ายวิทยาศาสตร์ด้านการทำให้ AI สอดคล้องกับเป้าหมายมนุษย์ของ Anthropic (alignment science) Hubinger กล่าวว่า โดยส่วนตัวเขาประเมินโอกาสที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายในทศวรรษข้างหน้าไว้มากกว่า 10% และเสริมว่า Anthropic ยังไม่มีแผนแก้ปัญหา alignment สำหรับ AI เหนือมนุษย์อย่างชัดเจน 16 รายงานข่าวระบุว่าตัวเลขนี้เป็นการคาดการณ์ส่วนบุคคล ไม่ใช่ฉันทามติทางวิทยาศาสตร์หรือความน่าจะเป็นที่คำนวณจากข้อมูลเชิงประจักษ์
12
Bilal Chughtai อดีตนักวิจัย Google DeepMind ก็ออกมาเตือนในทิศทางเดียวกัน โดยกล่าวว่า AI มีศักยภาพจะคร่าชีวิตทุกคน และเวลาในการหลีกเลี่ยงผลลัพธ์ดังกล่าวอาจกำลังหมดลง 2
ข้อกังวลเหล่านี้โดยทั่วไปเป็นคำเตือนแบบมีเงื่อนไข ไม่ใช่การบอกว่าแชตบอตในปัจจุบันจะพลิกตัวเป็นอันตรายขึ้นมาเองทันที ลำดับเหตุการณ์ที่ฝ่ายกังวลมองเห็นคือ ระบบในอนาคตอาจเร่งการวิจัย AI ได้อย่างมีนัยสำคัญ ทำงานได้อิสระมากขึ้น หลบเลี่ยงการกำกับของมนุษย์ หรือเพิ่มการเข้าถึงความสามารถด้านไซเบอร์ ชีวภาพ และสถาบันต่าง ๆ เร็วกว่าวิธีรับมือด้านความปลอดภัยจะพัฒนาทัน ความเป็นไปได้และกรอบเวลาของลำดับเหตุการณ์นี้เองคือแก่นของข้อถกเถียง
เหตุใดตัวเลข 10% จึงยังไม่ใช่คำพยากรณ์ที่ยุติข้อถกเถียง
ตัวเลขของ Hubinger ได้รับความสนใจเพราะรุนแรงและมาจากนักวิจัยอาวุโสด้าน alignment แต่ควรตีความให้ถูกต้อง นั่นคือเป็นดุลยพินิจของบุคคลภายใต้ความไม่แน่นอนสูง ไม่ใช่ความน่าจะเป็นที่ผ่านการยืนยันด้วยข้อมูลในอดีต หรือแบบจำลองที่วัดความเสี่ยงต่อการสูญพันธุ์ได้ 12
การคาดการณ์นี้ยังตั้งอยู่บนสมมติฐานสำคัญหลายชั้น ได้แก่
- ระบบ AI ต้องมีความสามารถสูงกว่าโมเดลปัจจุบันอย่างมาก
- ความสามารถนั้นต้องแปรเป็นความเป็นอิสระเชิงยุทธศาสตร์ที่ยั่งยืน หรืออำนาจก่อผลกระทบในโลกจริง
- มาตรการควบคุมทางเทคนิค ผู้ปฏิบัติงาน สถาบัน และการรับมือที่มีอยู่ ต้องล้มเหลวในการจำกัดระบบหรือการนำไปใช้ในทางที่ผิด
- งานวิจัยด้านความปลอดภัยและ alignment ต้องพัฒนาตามการเพิ่มขึ้นของขีดความสามารถไม่ทัน
แต่ละข้อถกเถียงแยกกันได้ การมีเงื่อนไขหลายชั้นไม่ได้ทำให้ความกังวลหมดความสำคัญ แต่หมายความว่าไม่ควรอ่านตัวเลขพาดหัวว่าเป็นคำทำนายที่พิสูจน์แล้ว
ข้อโต้แย้งของฝ่ายสงสัย: ความฉลาดดิจิทัลไม่เท่ากับอำนาจในโลกจริง
ฝ่ายสงสัยตั้งคำถามต่อการกระโดดจากความสามารถด้านซอฟต์แวร์และภาษา ไปสู่ความสามารถในการสร้างความเสียหายทางกายภาพระดับทำให้มนุษย์สูญพันธุ์ ตัวอย่างที่ถูกยกบ่อยคือชีววิทยา Eric Xing ชี้ว่า การให้โมเดลภาษาสร้างแบบร่างจีโนมไวรัสในเชิงสมมุติ แตกต่างโดยพื้นฐานจากการสร้างไวรัสที่ใช้งานได้จริง เพราะยังมีอุปสรรคด้านการจัดหาวัสดุ การผลิต ความอยู่รอดทางชีวภาพ งานในห้องปฏิบัติการ และการทดสอบ 46
ข้อแตกต่างนี้มีนัยสำคัญ โมเดลอาจให้ข้อมูลหรือแบบออกแบบได้ แต่การแปรสิ่งนั้นเป็นอันตรายในโลกจริงอาจต้องอาศัยสถานที่เฉพาะทาง ความชำนาญที่ถ่ายทอดเป็นคำพูดได้ยาก ห่วงโซ่อุปทาน การทดลองซ้ำหลายรอบ และการเข้าถึงวัสดุควบคุม ข้อจำกัดเหล่านี้ไม่ได้แปลว่าความเสี่ยงด้านความมั่นคงทางชีวภาพเป็นศูนย์ แต่ท้าทายสมมติฐานที่ว่าความสามารถทางดิจิทัลเพียงอย่างเดียวจะทำให้เกิดอำนาจทางกายภาพขั้นชี้ขาดได้ทันที
Jensen Huang ซีอีโอ Nvidia เป็นหนึ่งในผู้วิจารณ์แนวคิดเรื่องการสูญพันธุ์จาก AI อย่างตรงไปตรงมาที่สุด โดยเรียกความคิดที่ว่า AI จะทำให้มนุษยชาติสิ้นสุดลงว่า “ไร้สาระโดยสิ้นเชิง” 33 ส่วน Mark Cuban เห็นว่า ปฏิกิริยาของมนุษย์ต่อคำกล่าวอ้างที่น่าตกใจอาจเป็นอันตรายยิ่งกว่าฝูงเอเจนต์ AI เสียอีก
43
ดังนั้น จุดยืนของฝ่ายสงสัยจึงไม่จำเป็นต้องหมายถึง AI ระดับแนวหน้าไม่ต้องมีมาตรการป้องกัน หากแต่คือข้อกล่าวอ้างพิเศษเรื่องการสูญพันธุ์ที่กำลังจะมาถึง ควรต้องมีหลักฐานที่หนักแน่นกว่าการคาดต่อจากผลงานของโมเดลในปัจจุบันและเส้นทางอนาคตที่ยังเป็นการคาดเดา
ทางสายกลางที่เริ่มเป็นรูปธรรม: ชะลอขีดความสามารถ และตรวจสอบความปลอดภัยให้ได้
แนวทางที่เน้นการปฏิบัติจริงมากขึ้นมาจากผู้นำที่ไม่ได้มองว่าการสูญพันธุ์เป็นทั้งเรื่องแน่นอนหรือเป็นเรื่องไร้สาระ Dario Amodei ซีอีโอ Anthropic เรียกร้องให้ชะลออัตราการเพิ่มขีดความสามารถของโมเดล เพื่อให้มีเวลาทำงานด้านความปลอดภัยเพิ่มขึ้น กรอบที่เขาเสนอรวมถึงการให้ผู้ประเมินอิสระเข้าไปทำงานภายในบริษัทในระดับการเข้าถึงคล้ายพนักงาน และการประสานงานระหว่างบริษัทผู้พัฒนา AI ระดับแนวหน้า 18
Reuters รายงานว่า Sam Altman ซีอีโอ OpenAI เป็นหนึ่งในผู้นำที่ต้องการการชะลอแบบประสานกัน แม้อุตสาหกรรมยังเห็นต่างกันว่าควรพึ่งพากลไกตลาดเพื่อความปลอดภัยมากน้อยเพียงใด 19 รายงานยังระบุว่า Altman สนับสนุนการมีผู้ประเมินจากภายนอกในแนวทางดังกล่าว
20
แนวคิดนี้เปลี่ยนการถกเถียงจากคำทำนายเชิงนามธรรม ไปสู่แนวปฏิบัติที่ตรวจสอบได้ เช่น
- การประเมินโดยอิสระ: ให้ผู้ตรวจสอบภายนอกที่มีคุณสมบัติเหมาะสมเข้าถึงข้อมูลและกระบวนการอย่างมีความหมาย เพื่อตรวจสอบคำกล่าวอ้างด้านความปลอดภัย แทนการพึ่งคำยืนยันจากบริษัทเพียงฝ่ายเดียว
18
- เกณฑ์ตามขีดความสามารถ: เพิ่มการตรวจสอบหรือจำกัดการใช้งาน เมื่อโมเดลแสดงความก้าวหน้าสำคัญในด้านอันตราย เช่น การปฏิบัติการไซเบอร์ หรือพฤติกรรมแบบเอเจนต์อัตโนมัติ
- การประสานงานระหว่างห้องแล็บ: ลดแรงจูงใจที่ทำให้บริษัทลดมาตรฐานความปลอดภัยเพียงเพื่อไม่ให้ตามคู่แข่งไม่ทัน
- ความร่วมมือระหว่างประเทศ: ประสานมาตรฐานระหว่างรัฐบาลและผู้พัฒนา AI รายใหญ่ รวมถึงข้อตกลงที่ลดแรงกดดันให้ปล่อยระบบออกสู่ตลาดก่อนมีมาตรการป้องกันเพียงพอ
27
- ความก้าวหน้าด้านความปลอดภัยต้องเดินคู่กับความสามารถ: การพิสูจน์การควบคุม การเฝ้าระวัง และการรับมือ ต้องเป็นเงื่อนไขที่พัฒนาตามระบบที่ทรงพลังขึ้นให้ทัน
ความกลัวระยะยาวบดบังอันตรายที่เกิดขึ้นแล้วหรือไม่
คำวิจารณ์อีกด้านเกี่ยวข้องกับการจัดลำดับความสำคัญ แม้ความเสี่ยงระดับหายนะสมควรได้รับการวิจัยและแผนรับมือ แต่การจดจ่อกับภาพการสูญพันธุ์ที่ยังเป็นการคาดการณ์มากเกินไป อาจทำให้สังคมมองข้ามอันตรายที่เกี่ยวข้องกับ AI ขั้นสูงและการนำไปใช้ ซึ่งเกิดขึ้นแล้วหรือเห็นหลักฐานได้ชัดกว่า
วาระเร่งด่วนกว่าประกอบด้วยการใช้ AI ในทางมิชอบด้านไซเบอร์ การฉ้อโกง การเฝ้าระวัง ข่าวปลอมและการชักจูง การตัดสินใจอัตโนมัติที่เลือกปฏิบัติ ผลกระทบต่อตลาดแรงงาน และการกระจุกตัวของอำนาจ Amodei เองก็ยกความเสี่ยงจากการใช้ในทางมิชอบ เช่น การพัฒนาอาวุธ การโจมตีทางไซเบอร์ และการเฝ้าระวัง เป็นเหตุผลที่ควรชะลอการพัฒนา 29
ไม่จำเป็นต้องเลือกเพียงอย่างใดอย่างหนึ่งระหว่างอันตรายปัจจุบันกับความเสี่ยงหายนะระยะยาว มาตรการที่ดีสามารถรับมือได้ทั้งสองด้าน ไม่ว่าจะเป็นการควบคุมการเข้าถึงที่เข้มแข็งขึ้น การประเมินที่ดีขึ้น นโยบายปล่อยใช้งานอย่างรอบคอบ การตรวจสอบอิสระ การรายงานเหตุการณ์ และความรับผิดที่ชัดเจน
สิ่งที่ดีเบตนี้ควรเปลี่ยนจริง ๆ
ข้อสรุปที่หนักแน่นที่สุดไม่ใช่ “พิสูจน์แล้วว่า AI จะทำให้มนุษย์สูญพันธุ์” และไม่ใช่ “ตัดทิ้งได้เพราะยังไม่มีใครสาธิตเส้นทางสู่หายนะได้ครบถ้วน” หลักฐานที่มีจากข้อถกเถียงนี้ชี้ไปสู่เกณฑ์ที่ใช้การได้มากกว่า: คำกล่าวอ้างว่าระบบ AI ที่มีความสามารถเพิ่มขึ้นนั้นปลอดภัย ต้องทดสอบได้ เปิดให้ตรวจสอบโดยอิสระ และมีมาตรการที่สมกับขนาดของความเสียหายที่อาจเกิดขึ้น
Coxon, Hubinger และ Chughtai เสนอเหตุผลให้ใช้หลักป้องกันไว้ก่อนภายใต้ความไม่แน่นอน ขณะที่ Huang และ Xing ตั้งคำถามว่าหลักฐานในปัจจุบันเพียงพอจะสรุปถึงหายนะในระยะใกล้แล้วหรือไม่ ส่วน Amodei และ Altman เสนอแนวนโยบายที่ไม่ต้องรอให้ทุกฝ่ายยุติความเห็นต่างเชิงปรัชญาเสียก่อน นั่นคือ ชะลอการแข่งขันที่แนวหน้า วัดขีดความสามารถอันตราย เปิดให้ผู้ตรวจสอบภายนอกที่น่าเชื่อถือเข้ามาตรวจ และประสานงานกันก่อนที่แรงกดดันจากการแข่งขันจะทำให้การอ้างว่าปลอดภัยโดยยังพิสูจน์ไม่ได้ กลายเป็นมาตรฐานของการปล่อยใช้งาน 49
16
33
18
19
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "AI อาจทำให้มนุษย์สูญพันธุ์จริงหรือ? เมื่อคำเตือนจากคนในชนกับข้อเรียกร้องเรื่องหลักฐาน" คืออะไร
ตัวเลขโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปี เป็นการประเมินส่วนบุคคลของ Evan Hubinger ไม่ใช่ความน่าจะเป็นทางวิทยาศาสตร์ที่วัดได้
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
ตัวเลขโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปี เป็นการประเมินส่วนบุคคลของ Evan Hubinger ไม่ใช่ความน่าจะเป็นทางวิทยาศาสตร์ที่วัดได้ Jacob Coxon และ Bilal Chughtai ทำให้เสียงเตือนดังขึ้น แต่ฝ่ายสงสัยโต้ว่า AI ที่ทำงานเก่งบนคอมพิวเตอร์ไม่ได้แปลว่าจะมีทรัพยากรและความสามารถก่ออันตรายร้ายแรงในโลกจริงทันที
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
จุดร่วมเชิงปฏิบัติคือให้การพัฒนาระบบ AI ระดับแนวหน้าดำเนินช้าลง เปิดให้มีการประเมินอิสระ และพิสูจน์มาตรการควบคุมความปลอดภัยควบคู่กับการจัดการความเสี่ยงที่เกิดขึ้นแล้ว
แหล่งที่มา
apnews.comAnthropic researcher resigns with warning about the dangers of AI development
x.comJacob is correct here—we really do earnestly believe AI ...
finchannel.comAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns as Research Shows Persistent Extinction Risk - FINCHANNELAI Could Kill All Humans Within a Decade, Anthropic Researcher Warns