คำตอบเผยแพร่แล้ว19 แหล่งที่มา
แซม อัลต์แมนมอง 3 ฉากทัศน์กำกับดูแลซูเปอร์อินเทลลิเจนซ์
แซม อัลต์แมนมีรายงานว่าเล่าถึง 3 แนวทางกำกับดูแล AI ที่ทรงพลังมาก ได้แก่ องค์กรกำกับระดับนานาชาติ การรวมแล็บ AI ชั้นนำ และการที่ผู้พัฒนารายเดียวมีอำนาจเหนือคู่แข่ง รายงานระบุว่าอัลต์แมนดูจะสนับสนุนแนวทางองค์กรกำกับระหว่างประเทศ และมองฉากทัศน์ที่บริษัทเดียวปิดกั้นคู่แข่งว่าเป็นผลลัพธ์ที่แย่มาก ชื่อ “แผนเอลีเซอร์” อาจ...
เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- แซม อัลต์แมนมีรายงานว่าเล่าถึง 3 แนวทางกำกับดูแล AI ที่ทรงพลังมาก ได้แก่ องค์กรกำกับระดับนานาชาติ การรวมแล็บ AI ชั้นนำ และการที่ผู้พัฒนารายเดียวมีอำนาจเหนือคู่แข่ง
- รายงานระบุว่าอัลต์แมนดูจะสนับสนุนแนวทางองค์กรกำกับระหว่างประเทศ และมองฉากทัศน์ที่บริษัทเดียวปิดกั้นคู่แข่งว่าเป็นผลลัพธ์ที่แย่มาก
- ชื่อ “แผนเอลีเซอร์” อาจทำให้สับสนกับแนวคิดของ Eliezer Yudkowsky ซึ่งเป็นสมมติฐานเรื่องการหยุดยั้งการพัฒนา AGI ที่ไม่ปลอดภัย ไม่ใช่ข้อเสนอให้บริษัทหนึ่งผูกขาดทรัพยากรคอมพิวต์
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI employees about three possible superintelligence endgames—an IAEA-style international watchdog en. Article summary: Altman reportedly presented OpenAI employees with three possible ways to govern superintelligence: international oversight, consolidation of the major labs, or unilateral dominance by one developer; he favored the first . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
มีรายงานว่าแซม อัลต์แมน ซีอีโอของ OpenAI อธิบายให้พนักงานฟังถึง 3 ฉากทัศน์ที่อาจใช้กำกับการพัฒนาซูเปอร์อินเทลลิเจนซ์ ได้แก่ การกำกับดูแลโดยองค์กรระหว่างประเทศ การตั้งองค์กรร่วมสำหรับแล็บ AI รายใหญ่ หรือการที่ผู้พัฒนารายเดียวมีอำนาจมากพอจะสกัดคู่แข่ง รายงานระบุว่าอัลต์แมนดูจะเอนเอียงไปทางการกำกับระดับนานาชาติ และเรียกฉากทัศน์ที่สามว่าเป็นผลลัพธ์ที่แย่มาก ทั้งหมดนี้เป็นทางเลือกที่มีรายงานว่าเขาพูดถึง ไม่ใช่นโยบาย 3 ข้อที่ OpenAI ประกาศใช้แล้ว 1
4
6
3 แนวทางที่มีรายงานว่าถูกหยิบยกขึ้นมาพูดถึง
1. องค์กรกำกับระหว่างประเทศแบบ IAEA
แนวทางแรกคือจัดตั้งองค์กรระหว่างประเทศที่ทำหน้าที่คล้ายทบวงการพลังงานปรมาณูระหว่างประเทศ (IAEA) โดยมีบทบาทกำหนดหรือบังคับใช้มาตรฐานความปลอดภัยด้าน AI รายงานกล่าวถึงการกำกับดูแลระบบ AI ขั้นสูง ซึ่งอาจรวมถึงการตรวจสอบหรือการตรวจประเมิน 1
4
6
อย่างไรก็ตาม รายงานที่มีอยู่ไม่ได้แจกแจงอำนาจขององค์กรดังกล่าวเป็นแผนครบถ้วน และยังไม่ยืนยันรายละเอียดบางอย่างที่ถูกนำไปกล่าวต่อ เช่น การติดตามทั้งการใช้ทรัพยากรประมวลผลและพลังงาน หรือข้ออ้างว่าการหารือภายในครั้งนี้เป็นการต่อยอดโดยตรงจากข้อเสนอเฉพาะฉบับในเดือนพฤษภาคม 2023
2. “แผนเดมิส”
แนวทางที่สองเรียกว่า “แผนเดมิส” ตามชื่อ Demis Hassabis จาก Google DeepMind โดยมีแนวคิดให้แล็บ AI รายใหญ่รวมตัวเป็นองค์กรเดียว หรือทำงานภายใต้องค์กรร่วม ซึ่งเปรียบได้กับ CERN ศูนย์วิจัยฟิสิกส์อนุภาคระดับนานาชาติ ผู้สื่อข่าว Amir Efrati เชื่อมโยงแนวคิดนี้กับข้อเสนอที่มีมาตั้งแต่ราวปี 2017 5
23
รายงานหนึ่งระบุว่าองค์กรดังกล่าวอาจจัดหาโมเดล AI ให้ประเทศที่เข้าร่วมความร่วมมือ 5 หัวใจของแนวคิดจึงอยู่ที่การประสานงานผ่านการกำกับดูแลหรือการทำงานร่วมกัน แทนการแข่งขันระหว่างแล็บที่แยกจากกัน
3. “แผนเอลีเซอร์”
ฉากทัศน์ที่สามตั้งชื่อตาม Eliezer Yudkowsky นักวิจัยด้านความปลอดภัย AI ในคำอธิบายที่โยงกับการหารือของอัลต์แมน ผู้พัฒนารายหนึ่งอาจสร้างความได้เปรียบอย่างเด็ดขาดด้วย AI ที่พัฒนาตัวเองต่อเนื่อง จากนั้นใช้อำนาจทางเศรษฐกิจที่เกิดขึ้นจำกัดการเข้าถึงทรัพยากรคอมพิวต์ของคู่แข่ง จนกลายเป็นภาพที่ถูกสรุปว่า “ทำให้ GPU ของคนอื่นละลายหมด” รายงานระบุว่าอัลต์แมนไม่เห็นด้วยกับผลลัพธ์นี้ 3
5
6
แนวคิดของ Yudkowsky ไม่ได้แปลว่าเขาเสนอให้ผูกขาด
ชื่อ “แผนเอลีเซอร์” อาจทำให้แนวคิดสองอย่างที่ต่างกันถูกนำมาปะปนกัน รายงานเกี่ยวกับงานเขียนของ Yudkowsky ในปี 2022 กล่าวถึง “การกระทำชี้ขาด” (pivotal act) ซึ่งเป็นกรณีสมมติที่ AGI ซึ่งถูกออกแบบให้สอดคล้องกับเป้าหมายของมนุษย์จะหยุดไม่ให้ผู้อื่นสร้าง AGI ที่ไม่ปลอดภัย 7
10 แนวคิดนี้ไม่เหมือนกับสถานการณ์ที่บริษัทหนึ่งใช้ความได้เปรียบเพื่อครองตลาดและปิดกั้นผู้พัฒนารายอื่น
รายงานอีกชิ้นระบุว่า Yudkowsky ชี้แจงภายหลังว่าตัวอย่าง “เผา GPU ทั้งหมด” ที่เขายกขึ้นในปี 2022 ไม่ใช่ข้อเสนอ 34 แต่แหล่งข้อมูลที่มีไม่ได้ให้รายละเอียดคำชี้แจงทั้งหมด จึงสรุปได้เพียงความต่างสำคัญที่ปรากฏในรายงาน: สมมติฐานหนึ่งพูดถึงการแทรกแซงเพื่อป้องกัน AGI ที่ไม่ปลอดภัย ส่วนอีกฉากทัศน์เน้นการที่ผู้พัฒนารายเดียวผูกขาดการเข้าถึงทรัพยากรคอมพิวต์
ส่วนข้อสงสัยว่าพนักงาน OpenAI บางคนมองชื่อ “แผนเอลีเซอร์” ว่าเป็นการพาดพิงถึง Anthropic หรือไม่นั้น รายงานที่มีอยู่ไม่ได้ยืนยันว่าพนักงานตีความเช่นนั้น การตั้งชื่อฉากทัศน์ตาม Yudkowsky ไม่ใช่หลักฐานว่า Anthropic สนับสนุนแนวทางดังกล่าว หรือว่าชื่อนี้มุ่งโจมตีบริษัท
ประเด็นหลักคืออำนาจจะอยู่ที่ใคร
ทั้งสามฉากทัศน์ต่างกันที่ผู้ถืออำนาจ: องค์กรกำกับระดับนานาชาติ องค์กรร่วมของแล็บชั้นนำ หรือผู้พัฒนารายเดียวที่มีอำนาจเหนือคู่แข่ง รายงานที่ระบุว่าอัลต์แมนเอนเอียงไปทางแนวทางแรกและปฏิเสธแนวทางสุดท้าย ทำให้ประเด็นสำคัญของการหารืออยู่ที่ความต่างระหว่างการกำกับดูแลร่วมกัน กับการกระจุกอำนาจไว้ที่ผู้เล่นรายเดียว 1
4
6
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "แซม อัลต์แมนมอง 3 ฉากทัศน์กำกับดูแลซูเปอร์อินเทลลิเจนซ์" คืออะไร
แซม อัลต์แมนมีรายงานว่าเล่าถึง 3 แนวทางกำกับดูแล AI ที่ทรงพลังมาก ได้แก่ องค์กรกำกับระดับนานาชาติ การรวมแล็บ AI ชั้นนำ และการที่ผู้พัฒนารายเดียวมีอำนาจเหนือคู่แข่ง
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
แซม อัลต์แมนมีรายงานว่าเล่าถึง 3 แนวทางกำกับดูแล AI ที่ทรงพลังมาก ได้แก่ องค์กรกำกับระดับนานาชาติ การรวมแล็บ AI ชั้นนำ และการที่ผู้พัฒนารายเดียวมีอำนาจเหนือคู่แข่ง รายงานระบุว่าอัลต์แมนดูจะสนับสนุนแนวทางองค์กรกำกับระหว่างประเทศ และมองฉากทัศน์ที่บริษัทเดียวปิดกั้นคู่แข่งว่าเป็นผลลัพธ์ที่แย่มาก
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ชื่อ “แผนเอลีเซอร์” อาจทำให้สับสนกับแนวคิดของ Eliezer Yudkowsky ซึ่งเป็นสมมติฐานเรื่องการหยุดยั้งการพัฒนา AGI ที่ไม่ปลอดภัย ไม่ใช่ข้อเสนอให้บริษัทหนึ่งผูกขาดทรัพยากรคอมพิวต์
แหล่งที่มา
agipulse.orgAltman told OpenAI staff about three AI endgames: an ... - AGI Pulse
binance.comSam Altman Outlines Three Paths for Safely Developing ... - Binance
dailyaibrief.comSam Altman tells OpenAI staff of three endgames for AI safety
dataist.aiSam Altman reportedly weighs three paths to governing advanced AI