คำตอบเผยแพร่แล้ว16 แหล่งที่มา
เจฟฟรีย์ ฮินตันชี้ ความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ 10% “ไม่ใช่ตัวเลขที่ไร้เหตุผล”
เจฟฟรีย์ ฮินตันกล่าวว่า ความเป็นไปได้ 10% ที่ AI จะทำให้มนุษย์สูญพันธุ์ภายในทศวรรษหน้า “ไม่ใช่ตัวเลขที่ไร้เหตุผล” แต่ย้ำว่า “ไม่มีใครรู้จริงว่าควรประเมินอย่างมีเหตุผลอย่างไร” [14] ข้อถกเถียงหลักไม่ใช่ว่า AI อาจช่วยเพิ่มความเสี่ยงจากฟิชชิง ข่าวปลอม การโจมตีไซเบอร์ หรืออาวุธชีวภาพหรือไม่ แต่อยู่ที่ว่า AI ที่เก่งขึ้นมา...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- เจฟฟรีย์ ฮินตันกล่าวว่า ความเป็นไปได้ 10% ที่ AI จะทำให้มนุษย์สูญพันธุ์ภายในทศวรรษหน้า “ไม่ใช่ตัวเลขที่ไร้เหตุผล” แต่ย้ำว่า “ไม่มีใครรู้จริงว่าควรประเมินอย่างมีเหตุผลอย่างไร” [14]
- ข้อถกเถียงหลักไม่ใช่ว่า AI อาจช่วยเพิ่มความเสี่ยงจากฟิชชิง ข่าวปลอม การโจมตีไซเบอร์ หรืออาวุธชีวภาพหรือไม่ แต่อยู่ที่ว่า AI ที่เก่งขึ้นมากอาจควบคุมไม่ได้จนยกระดับอันตรายเหล่านี้ไปสู่การสูญพันธุ์หรือไม่
- อีแวน ฮูบิงเกอร์จาก Anthropic ประเมินความเสี่ยงส่วนตัวไว้มากกว่า 10% ขณะที่แกรี มาร์คัสยอมรับความเสี่ยงร้ายแรงจาก AI แต่ไม่เห็นเส้นทางที่สมจริงในระยะใกล้ซึ่งจะคร่าชีวิตมนุษย์ทั้งหมดได้ [15][16]
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nobel Prize-winning AI pioneer Geoffrey Hinton say about the probability that artificial intelligence could kill all humans within. Article summary: Geoffrey Hinton said a 10% chance that AI could cause human extinction within the next decade was “not unreasonable,” while stressing that “nobody really knows how to give a sensible estimate.” It is a warning about a pl. Topic tags: general, general web, user generated, news, education. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
เจฟฟรีย์ ฮินตัน นักบุกเบิกปัญญาประดิษฐ์และผู้ได้รับรางวัลโนเบลสาขาฟิสิกส์ปี 2024 กล่าวว่า โอกาส 10% ที่ AI จะทำให้มนุษยชาติสูญพันธุ์ภายในทศวรรษหน้า นั้น “ไม่ใช่ตัวเลขที่ไร้เหตุผล” แต่เขาย้ำเงื่อนไขสำคัญไว้ชัดเจนว่า “ไม่มีใครรู้จริงว่าควรประเมินอย่างมีเหตุผลอย่างไร” 14
ประโยคนี้มีความหมายสำคัญ: ฮินตันไม่ได้เสนอการพยากรณ์ทางวิทยาศาสตร์ที่คำนวณและตรวจสอบได้ เขากำลังบอกว่า เมื่อผลเสียที่เป็นไปได้มีขนาดมหาศาล และเรายังไม่แน่ใจว่า AI ในอนาคตจะมีความสามารถไปไกลเพียงใด การตัดความเป็นไปได้นี้ทิ้งไปเลยย่อมไม่รอบคอบ
เหตุใดฮินตันจึงกังวลเรื่องอันตรายจาก AI
ฮินตันแยกความเสี่ยงออกเป็นสองส่วนที่เกี่ยวเนื่องกัน คือ มนุษย์ใช้ AI ไปในทางร้าย และ AI ที่มีความสามารถสูงมากจนมนุษย์ควบคุมได้ยาก
ในด้านการนำไปใช้ในทางมิชอบซึ่งอาจเกิดขึ้นได้เร็วกว่า เขาเคยเตือนว่า AI สามารถขยายภัยคุกคามที่มีอยู่แล้วได้ ตั้งแต่ระบบแนะนำเนื้อหาที่สร้างห้องเสียงสะท้อนและความแตกแยก การสอดส่องมวลชน ไปจนถึงฟิชชิงที่ใช้ AI ช่วยเพิ่มประสิทธิภาพ ในปาฐกถารางวัลโนเบล ฮินตันยังเตือนว่า AI อาจถูกใช้สร้างไวรัสอันตรายและอาวุธสังหารที่ตัดสินใจเองว่าจะทำร้ายหรือสังหารใคร พร้อมเรียกร้องให้รัฐบาลและองค์กรระหว่างประเทศเร่งจัดการความเสี่ยงนี้
ความกังวลจึงไม่ได้อยู่ที่ความล้มเหลวรูปแบบเดียว AI ขั้นสูงอาจทำให้ข่าวปลอมโน้มน้าวใจและเจาะจงรายบุคคลมากขึ้น ช่วยผู้โจมตีค้นหาช่องโหว่ของซอฟต์แวร์ หรือลดอุปสรรคต่อการนำไปใช้ในทางชีวภาพและไซเบอร์ ในฉากทัศน์รุนแรงที่สุดที่นักวิจัยด้านความปลอดภัย AI กังวล ระบบที่มีความสามารถด้านกลยุทธ์ เทคนิค และการปฏิบัติการสูง อาจเข้าถึงทรัพยากรหรือโครงสร้างพื้นฐานสำคัญ แล้วต่อต้านความพยายามของมนุษย์ที่จะจำกัดมัน 5
ปม “การทำให้ AI สอดคล้องกับเจตนามนุษย์”
แก่นของข้อกังวลทางเทคนิคคือเรื่อง alignment หรือการทำให้ AI ดำเนินตามเป้าหมายที่มนุษย์ตั้งใจจริง เชื่อฟังการแก้ไขหรือการหยุดทำงาน และอยู่ภายใต้ขอบเขตควบคุมที่มีความหมาย แม้ระบบนั้นจะเก่งกว่ามนุษย์มาก
เจคอบ ค็อกซัน อดีตนักวิจัยของ Anthropic และ OpenAI ลาออกจาก Anthropic โดยกล่าวหาว่าห้องปฏิบัติการชั้นนำกำลัง “แข่งกันพุ่งตรงสู่ปัญญาประดิษฐ์เหนือมนุษย์ที่พัฒนาตัวเองได้” และกำลัง “เอาชีวิตของเราไปเสี่ยงพนัน” 18 ข้อเตือนของเขามุ่งไปที่ความเป็นไปได้ที่ระบบจะเพิ่มขีดความสามารถของตนเองได้เร็วกว่าวิธีรับรองความปลอดภัย
อีแวน ฮูบิงเกอร์ ผู้นำด้านวิทยาศาสตร์ alignment ของ Anthropic สนับสนุนสาระสำคัญของคำเตือนนี้ต่อสาธารณะ เขาระบุว่าตนเองเชื่อว่ามีโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตมนุษย์ทั้งหมดภายในทศวรรษหน้า และเสริมว่า Anthropic ยังไม่มีแผนแก้ปัญหา alignment สำหรับ AI ระดับเหนือมนุษย์ อีกทั้งยังไม่ชัดว่ากำลังเดินหน้าไปสู่คำตอบได้ทัน 16
ข้อโต้แย้งของพวกเขาไม่ได้บอกว่าโมเดลในปัจจุบันกำลังจะกำจัดมนุษยชาติด้วยตัวเอง ฮูบิงเกอร์กล่าวว่าความเสี่ยงจากโมเดลที่มีอยู่ตอนนี้อยู่ในระดับต่ำ สิ่งที่กังวลคือ “จุดเปลี่ยน” ในอนาคต เมื่อโมเดลเก่งพอที่จะพัฒนาตัวเองหรือลงมือทำสิ่งต่าง ๆ ในโลกจริงได้อย่างมีประสิทธิผล ก่อนที่ผู้พัฒนาจะรู้วิธีควบคุมมันอย่างเชื่อถือได้ 1
16
ฝ่ายที่ไม่เห็นด้วย: อันตรายร้ายแรง ไม่ได้แปลว่าจะสูญพันธุ์ในเร็ววัน
นักวิจัยอีกกลุ่มไม่ได้ปฏิเสธว่า AI อาจทำให้อาชญากรรมไซเบอร์ ข่าวปลอม และการใช้ประโยชน์ทางชีวภาพอันตรายขึ้น สิ่งที่พวกเขาไม่เห็นด้วยคือการก้าวจาก “ความเสียหายรุนแรง” ไปสู่ “มนุษย์สูญพันธุ์ทั้งหมด”
แกรี มาร์คัสกล่าวว่า AI อาจมีส่วนทำให้เกิดการโจมตีทางไซเบอร์ ภัยคุกคามทางชีวภาพ ข่าวปลอม และการยกระดับความขัดแย้งได้ แต่เขาไม่เห็นเส้นทางที่สมจริงในระยะใกล้ที่จะนำไปสู่การ “คร่าชีวิตมนุษย์ทั้งหมด” 15 จุดยืนของเขาคือ ควรรับมือความเสี่ยงที่จับต้องได้โดยไม่ตั้งสมมติฐานว่าโมเดลภาษาขนาดใหญ่ในปัจจุบันกำลังมุ่งตรงไปสู่ปัญญาประดิษฐ์เหนือมนุษย์ที่ควบคุมไม่ได้
ยานน์ เลอคุนก็ตั้งคำถามต่อการประเมิน “p(doom)” หรือความน่าจะเป็นของหายนะจาก AI ที่แสดงความมั่นใจสูง รายงานเกี่ยวกับการถกเถียงนี้ระบุว่าเขามองความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ว่าต่ำกว่าความเสี่ยงของสงครามนิวเคลียร์อย่างมาก พร้อมย้ำว่าตัวเลขลักษณะนี้เป็นเพียงการคาดเดาโดยเนื้อแท้
ดังนั้น เส้นแบ่งในทางปฏิบัติไม่ใช่เพียง “คนกังวล” กับ “คนไม่กังวล” แต่คือคำถามที่ยังไม่มีคำตอบอยู่สองข้อ:
- ระยะเวลาสู่ความสามารถสูงมาก: AI จะเก่งเหนือมนุษย์ในวงกว้าง และพัฒนาความสามารถของตัวเองได้ เมื่อใด หรือจะเกิดขึ้นจริงหรือไม่
- การควบคุม: หากจุดนั้นมาถึง ผู้พัฒนาจะสร้างระบบที่ควบคุมได้อย่างน่าเชื่อถือหรือไม่ หรือกลไกป้องกันจะล้มเหลวเมื่อเจอกับโมเดลที่เก่งกว่าและแรงกดดันจากการแข่งขันนำไปใช้งาน
ตัวเลข 10% บอกอะไร และบอกอะไรไม่ได้
ปัจจุบันยังไม่มีวิธีที่ผ่านการยืนยันในการคำนวณความน่าจะเป็นอย่างแม่นยำว่า AI จะทำให้มนุษย์สูญพันธุ์หรือไม่ ตัวเลขอย่างที่ฮินตันและฮูบิงเกอร์กล่าวจึงเป็นดุลยพินิจของผู้เชี่ยวชาญภายใต้ความไม่แน่นอนอย่างลึกซึ้ง ไม่ใช่ความน่าจะเป็นที่ได้จากข้อมูลในอดีตซึ่งทดสอบซ้ำได้ 14
เพราะฉะนั้น ไม่ควรอ่านเลข 10% ว่าเป็นหลักฐานว่าการสูญพันธุ์มีแนวโน้มจะเกิดขึ้น ขณะเดียวกัน การที่ยังคำนวณตัวเลขอย่างน่าเชื่อถือไม่ได้ ก็ไม่ได้พิสูจน์ว่าความเสี่ยงนั้นเล็กน้อย ข้อสรุปที่แคบกว่าแต่มีประโยชน์กว่าคือ ผู้เชี่ยวชาญเห็นต่างกันอย่างมากทั้งเรื่องโอกาสและกลไกที่จะเกิดเหตุ แต่หลายฝ่ายเห็นร่วมกันว่า AI ที่ทรงพลังอาจสร้างโจทย์ด้านความมั่นคงและการกำกับดูแลอย่างร้ายแรงได้ ก่อนจะถึงสถานการณ์สูญพันธุ์ซึ่งยังเป็นเพียงสมมติฐาน
ข้อเสนอเชิงนโยบาย: ประเมินความสามารถก่อนนำไปใช้
ฮินตันเรียกร้องให้รัฐบาลและองค์กรระหว่างประเทศเร่งให้ความสำคัญกับความเสี่ยงจาก AI ค็อกซันก็โต้แย้งว่ากฎระเบียบเป็นหัวใจสำคัญในการลดอันตราย
การถกเถียงเชิงนโยบายจึงมุ่งไปที่มาตรการที่ใช้กับความสามารถและการนำระบบไปใช้ที่ระบุได้ เช่น การทดสอบและประเมินโมเดลแนวหน้าที่เข้มงวดขึ้น การยกระดับความมั่นคงไซเบอร์ มาตรการคุ้มครองด้านชีวความปลอดภัย การรายงานและกำกับดูแลเหตุการณ์ร้ายแรง รวมถึงการตรวจสอบโดยหน่วยงานอิสระก่อนเปิดให้ระบบมีอิสระหรือเข้าถึงเครื่องมือที่อ่อนไหวมากขึ้น
การถกเถียงว่าความเสี่ยงอยู่ที่ 10% หรือไม่คงไม่มีข้อยุติในเร็ววัน ประเด็นของฮินตันไม่ใช่ว่าใครสามารถคำนวณอัตราต่อรองได้อย่างมั่นใจ แต่เป็นว่าเดิมพันสูงมากและความไม่แน่นอนก็มากพอ จนการรอให้แน่ชัดเสียก่อนอาจไม่ใช่มาตรฐานที่เหมาะสมสำหรับการป้องกันความเสี่ยง 14
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "เจฟฟรีย์ ฮินตันชี้ ความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์ 10% “ไม่ใช่ตัวเลขที่ไร้เหตุผล”" คืออะไร
เจฟฟรีย์ ฮินตันกล่าวว่า ความเป็นไปได้ 10% ที่ AI จะทำให้มนุษย์สูญพันธุ์ภายในทศวรรษหน้า “ไม่ใช่ตัวเลขที่ไร้เหตุผล” แต่ย้ำว่า “ไม่มีใครรู้จริงว่าควรประเมินอย่างมีเหตุผลอย่างไร” [14]
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
เจฟฟรีย์ ฮินตันกล่าวว่า ความเป็นไปได้ 10% ที่ AI จะทำให้มนุษย์สูญพันธุ์ภายในทศวรรษหน้า “ไม่ใช่ตัวเลขที่ไร้เหตุผล” แต่ย้ำว่า “ไม่มีใครรู้จริงว่าควรประเมินอย่างมีเหตุผลอย่างไร” [14] ข้อถกเถียงหลักไม่ใช่ว่า AI อาจช่วยเพิ่มความเสี่ยงจากฟิชชิง ข่าวปลอม การโจมตีไซเบอร์ หรืออาวุธชีวภาพหรือไม่ แต่อยู่ที่ว่า AI ที่เก่งขึ้นมากอาจควบคุมไม่ได้จนยกระดับอันตรายเหล่านี้ไปสู่การสูญพันธุ์หรือไม่
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
อีแวน ฮูบิงเกอร์จาก Anthropic ประเมินความเสี่ยงส่วนตัวไว้มากกว่า 10% ขณะที่แกรี มาร์คัสยอมรับความเสี่ยงร้ายแรงจาก AI แต่ไม่เห็นเส้นทางที่สมจริงในระยะใกล้ซึ่งจะคร่าชีวิตมนุษย์ทั้งหมดได้ [15][16]