คำตอบเผยแพร่แล้ว20 แหล่งที่มา
“เชอร์โนบิลของ AI” อาจเกิดขึ้นได้ในปีนี้หรือปีหน้า ฮินตันเตือน
ฮินตันใช้คำว่า “เชอร์โนบิล” เป็นอุปมาเหตุขัดข้องร้ายแรงจาก AI ไม่ได้หมายถึงอุบัติเหตุนิวเคลียร์ โดยยกตัวอย่างการโจมตีระบบไฟฟ้าหรือทำให้ระบบการเงินหยุดชะงักราวหนึ่งสัปดาห์ [1][31] เขากล่าวว่าเหตุการณ์ลักษณะนี้อาจเกิดขึ้นในช่วงปลายปี 2026 หรือปี 2027 แต่เป็นการประเมินของเขา ไม่ใช่กำหนดเวลาที่มีหลักฐานยืนยันว่าเหตุจะเก...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- ฮินตันใช้คำว่า “เชอร์โนบิล” เป็นอุปมาเหตุขัดข้องร้ายแรงจาก AI ไม่ได้หมายถึงอุบัติเหตุนิวเคลียร์ โดยยกตัวอย่างการโจมตีระบบไฟฟ้าหรือทำให้ระบบการเงินหยุดชะงักราวหนึ่งสัปดาห์ [1][31]
- เขากล่าวว่าเหตุการณ์ลักษณะนี้อาจเกิดขึ้นในช่วงปลายปี 2026 หรือปี 2027 แต่เป็นการประเมินของเขา ไม่ใช่กำหนดเวลาที่มีหลักฐานยืนยันว่าเหตุจะเกิดแน่นอน [5][7][15]
- ฮินตันสนับสนุนการตรวจสอบ AI ที่มีความสามารถสูงก่อนเปิดตัว และยังมองว่า AI อาจนำไปสู่อนาคตที่ดีได้ หากจัดการความเสี่ยงอย่างเหมาะสม [14][34][39]
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Geoffrey Hinton, the 78-year-old Nobel Prize-winning computer scientist known as a “godfather of AI,” say in his November 3 Guardia. Article summary: Hinton’s central warning was that AI could cause a severe but recoverable infrastructure disaster in late 2026 or 2027, and that humanity might ultimately conclude it would have been better off never developing the techn. Topic tags: general, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fa
เจฟฟรีย์ ฮินตัน นักวิทยาศาสตร์คอมพิวเตอร์ผู้บุกเบิกงานด้านปัญญาประดิษฐ์ เตือนถึงความเป็นไปได้ของเหตุการณ์ร้ายแรงที่เกี่ยวข้องกับ AI ซึ่งเขาเรียกว่า “เชอร์โนบิล” แต่คำนี้เป็นเพียงอุปมาเปรียบเทียบขนาดของวิกฤต ไม่ได้หมายถึงอุบัติเหตุนิวเคลียร์
ตัวอย่างที่เขายกขึ้นมาคือการโจมตีระบบไฟฟ้าขนาดใหญ่ หรือการแฮ็กธนาคารจนระบบการเงินหยุดชะงักไปราวหนึ่งสัปดาห์ ฮินตันระบุว่าเหตุการณ์อาจสร้างความเสียหายหนัก แต่ยังอาจฟื้นฟูกลับมาได้ และอาจทำให้ผู้นำทั่วโลกหันมาใส่ใจความเสี่ยงจาก AI มากขึ้น 1
31
คำเตือนเรื่องเวลา ไม่ใช่คำทำนายที่ยืนยันแล้ว
รายงานที่ถ่ายทอดคำให้สัมภาษณ์ระบุว่า ฮินตันคาดว่าเหตุการณ์ระดับนี้อาจเกิดขึ้น “ช่วงปลายปีนี้หรือปีหน้า” ซึ่งเมื่อเทียบกับเวลาที่ให้สัมภาษณ์ หมายถึงช่วงปลายปี 2026 หรือปี 2027 5
7
15 นี่เป็นการประเมินของเขา ไม่ใช่กำหนดการที่ตรวจสอบได้ หรือหลักฐานว่าเหตุการณ์จะต้องเกิดขึ้นแน่นอน
รายงานบางแห่งยังระบุว่าเขาเปรียบเหตุการณ์ที่เกี่ยวข้องกับเอเจนต์ของ OpenAI และเว็บไซต์ Hugging Face กับอุบัติเหตุที่โรงไฟฟ้านิวเคลียร์ทรีไมล์ไอส์แลนด์ ซึ่งเป็นสัญญาณเตือนก่อนเกิดวิกฤตที่ร้ายแรงกว่า 13
15 อย่างไรก็ตาม รายละเอียดนี้มาจากสรุปข่าวรอง และไม่มีบทสัมภาษณ์ฉบับเต็มให้ตรวจสอบจากแหล่งข้อมูลที่มีอยู่ จึงควรอ่านอย่างระมัดระวัง
เหตุใดฮินตันจึงเรียกร้องให้ตรวจสอบ AI ก่อนเปิดตัว
ข้อเสนอสำคัญของฮินตันคือไม่ควรรอให้เกิดความเสียหายแล้วค่อยจัดการ แต่ควรประเมินระบบ AI ที่มีความสามารถสูงก่อนเผยแพร่ เขาเสนอให้มีหน่วยงานอิสระกำกับดูแล โดยบริษัทต้องแสดงหลักฐานทางสถิติที่หนักแน่นว่าโมเดลจะสร้างประโยชน์มากกว่าโทษก่อนเปิดตัว พร้อมเปรียบเทียบกับการกำกับดูแลยา 34
รายงานอื่นยังกล่าวถึงการสนับสนุนของเขาต่อการทดสอบภาคบังคับ การประเมินโดยหน่วยงานอิสระ และมาตรฐานร่วมระหว่างประเทศสำหรับโมเดล AI แนวหน้า 3
13 แต่ข้อมูลสรุปที่มีไม่ได้อธิบายรายละเอียดและขอบเขตของข้อเสนอนี้อย่างครบถ้วน
กังวลหนัก แต่ไม่ได้มองว่า AI จะลงเอยด้วยหายนะเท่านั้น
ฮินตันเคยกล่าวว่า มนุษย์อาจจะมีชีวิตที่ดีกว่าหากไม่เคยพัฒนา AI ขึ้นมา แต่เขาก็พูดถึงความเป็นไปได้ที่เทคโนโลยีนี้จะนำไปสู่ “อนาคตที่ยอดเยี่ยม” และไม่ได้มองตัวเองเป็นคนมองโลกในแง่ร้ายต่อ AI อย่างสิ้นเชิง 14
39
เขายังกล่าวว่า ภายใน 10 ปีข้างหน้า เราน่าจะเห็นได้ชัดขึ้นว่ามนุษย์สามารถควบคุมความเสี่ยงของ AI ได้หรือไม่ 1
31 นั่นไม่ใช่การฟันธงว่าสังคมจะล่มสลายในช่วงเวลาดังกล่าว แต่เป็นการย้ำว่าการตัดสินใจและมาตรการป้องกันในวันนี้อาจมีผลต่อทิศทางของเทคโนโลยี
ใจความของคำเตือนจึงไม่ใช่ “หายนะต้องเกิดแน่” แต่คือความเสี่ยงร้ายแรงพอที่จะต้องเตรียมรับมือ ฮินตันมองว่าการประเมินและกำกับดูแลก่อนเผยแพร่เป็นหนึ่งในวิธีที่อาจช่วยให้การพัฒนา AI มีความปลอดภัยมากขึ้น 34
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "“เชอร์โนบิลของ AI” อาจเกิดขึ้นได้ในปีนี้หรือปีหน้า ฮินตันเตือน" คืออะไร
ฮินตันใช้คำว่า “เชอร์โนบิล” เป็นอุปมาเหตุขัดข้องร้ายแรงจาก AI ไม่ได้หมายถึงอุบัติเหตุนิวเคลียร์ โดยยกตัวอย่างการโจมตีระบบไฟฟ้าหรือทำให้ระบบการเงินหยุดชะงักราวหนึ่งสัปดาห์ [1][31]
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
ฮินตันใช้คำว่า “เชอร์โนบิล” เป็นอุปมาเหตุขัดข้องร้ายแรงจาก AI ไม่ได้หมายถึงอุบัติเหตุนิวเคลียร์ โดยยกตัวอย่างการโจมตีระบบไฟฟ้าหรือทำให้ระบบการเงินหยุดชะงักราวหนึ่งสัปดาห์ [1][31] เขากล่าวว่าเหตุการณ์ลักษณะนี้อาจเกิดขึ้นในช่วงปลายปี 2026 หรือปี 2027 แต่เป็นการประเมินของเขา ไม่ใช่กำหนดเวลาที่มีหลักฐานยืนยันว่าเหตุจะเกิดแน่นอน [5][7][15]
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ฮินตันสนับสนุนการตรวจสอบ AI ที่มีความสามารถสูงก่อนเปิดตัว และยังมองว่า AI อาจนำไปสู่อนาคตที่ดีได้ หากจัดการความเสี่ยงอย่างเหมาะสม [14][34][39]