คำตอบเผยแพร่แล้ว2 ชั่วโมงที่ผ่านมาLast edited 2 ชั่วโมงที่ผ่านมา16 แหล่งที่มา

3 ฉากทัศน์กำกับดูแลซูเปอร์อินเทลลิเจนซ์ที่แซม อัลต์แมนเล่าให้ทีม OpenAI ฟัง

รายงานระบุว่าอัลต์แมนเล่าถึง 3 ทางเลือก ได้แก่ องค์กรกำกับดูแลระหว่างประเทศแบบ IAEA องค์กรพัฒนา AI ร่วมกันแบบ CERN และสถานการณ์ที่ผู้พัฒนารายเดียวมีอำนาจขัดขวางคู่แข่ง เขาดูจะสนับสนุนแนวทางการตรวจสอบจากภายนอก และไม่เห็นด้วยกับฉากทัศน์ที่บริษัทเดียวควบคุมทรัพยากรประมวลผลจนคู่แข่งพัฒนา AI ต่อไม่ได้

เผยแพร่โดยแก้ไขด้วย GPT-6 Lunaรูปภาพสร้างด้วย GPT Image 2

ค้นหาและตรวจสอบข้อเท็จจริงด้วย Studio Global AI ดูหน้าที่กำลังมาแรงเพิ่มเติม

คำตอบการวิจัย

ประเด็นสำคัญ

รายงานระบุว่าอัลต์แมนเล่าถึง 3 ทางเลือก ได้แก่ องค์กรกำกับดูแลระหว่างประเทศแบบ IAEA องค์กรพัฒนา AI ร่วมกันแบบ CERN และสถานการณ์ที่ผู้พัฒนารายเดียวมีอำนาจขัดขวางคู่แข่ง
เขาดูจะสนับสนุนแนวทางการตรวจสอบจากภายนอก และไม่เห็นด้วยกับฉากทัศน์ที่บริษัทเดียวควบคุมทรัพยากรประมวลผลจนคู่แข่งพัฒนา AI ต่อไม่ได้

Editorial illustration representing international oversight and competing approaches to governing advanced AI — What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets saAltman reportedly outlined three possible approaches to governing superintelligence, from international oversight to concentrated control.
AI พรอมต์
Create a landscape editorial hero image for this Studio Global article: What did Sam Altman reportedly tell OpenAI staff about governing superintelligence through an IAEA-style international watchdog that sets sa. Article summary: Altman reportedly presented three possible ways to govern superintelligence, favoring shared international oversight and rejecting a scenario in which one AI developer becomes powerful enough to suppress its rivals; he r. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
openai.com

แซม อัลต์แมน ซีอีโอ OpenAI มีรายงานว่าเล่าถึงอนาคตที่เป็นไปได้ 3 แบบสำหรับการกำกับดูแลซูเปอร์อินเทลลิเจนซ์ ได้แก่ การตั้งองค์กรกำกับดูแลระหว่างประเทศ การรวมแล็บ AI รายใหญ่ไว้ในองค์กรร่วม หรือการที่ผู้พัฒนารายเดียวมีอำนาจมากพอจะจำกัดคู่แข่ง รายงานระบุว่าเขาดูจะสนับสนุนแนวทางแรก และเรียกแนวทางที่สามว่าเป็นสถานการณ์ “เลวร้าย” 5 10 15

เรื่องนี้มาจากรายงานเกี่ยวกับคำพูดที่อัลต์แมนกล่าวกับพนักงาน OpenAI ไม่ใช่ข้อเสนอนโยบายฉบับทางการที่เผยแพร่ต่อสาธารณะ ทั้งสามแนวทางจึงควรมองเป็นภาพเปรียบเทียบว่าใครจะกำหนดกติกา และใครจะมีอำนาจเหนือการพัฒนา AI ขั้นสูง

3 แนวทางที่ถูกรายงาน

1. องค์กรกำกับดูแล AI ระดับนานาชาติ

แนวทางแรกคือการตั้งองค์กรระหว่างประเทศที่ทำหน้าที่คล้ายทบวงการพลังงานปรมาณูระหว่างประเทศ (IAEA) โดยรัฐบาลและบริษัท AI ร่วมกำหนดมาตรฐานความปลอดภัย และให้มีการตรวจสอบหรือประเมินโมเดลทรงพลังอย่างเป็นอิสระก่อนนำออกเผยแพร่ 5

หัวใจของแนวคิดนี้คือไม่ปล่อยให้บริษัทผู้พัฒนาเป็นผู้ตัดสินความปลอดภัยของระบบตัวเองเพียงฝ่ายเดียว แต่เพิ่มการกำกับดูแลจากภายนอก

2. องค์กรวิจัย AI ร่วมแบบ CERN

“แผนเดมิส” (Demis plan) ตั้งชื่อตามเดมิส ฮัสซาบิส ซีอีโอของ Google DeepMind มีแนวคิดให้แล็บ AI รายใหญ่ทำงานร่วมกันในองค์กรข้ามชาติ คล้าย CERN ซึ่งเป็นองค์กรวิจัยฟิสิกส์อนุภาคที่มีประเทศต่าง ๆ ร่วมมือกัน 5 11

ตามแนวทางที่ถูกรายงาน องค์กรร่วมดังกล่าวจะพัฒนา AI ให้ประเทศที่เข้าร่วม แทนที่จะให้แต่ละแล็บทำงานแยกกันภายใต้กติกากลางจากหน่วยงานภายนอก

3. ผู้พัฒนารายเดียวครองทรัพยากรประมวลผล

“แผนเอลีเซอร์” (Eliezer plan) ตั้งชื่อตามเอลีเซอร์ ยุดคอฟสกี นักวิจัยด้านความปลอดภัย AI กล่าวถึงสถานการณ์ที่ผู้พัฒนารายหนึ่งมีอำนาจทางเศรษฐกิจมากพอจะจำกัดการเข้าถึงทรัพยากรประมวลผลของคู่แข่ง ภาพที่รายงานใช้สื่อถึงผลลัพธ์สุดขั้วคือการ “หลอม GPU ของทุกคน” อัลต์แมนมีรายงานว่าไม่สนับสนุนฉากทัศน์นี้ 5 10

ชื่อแผนนี้เป็นป้ายเรียกสถานการณ์ตามรายงาน ไม่ได้ยืนยันว่าตัวยุดคอฟสกีสนับสนุนแผนดังกล่าวโดยตรง อีกทั้งรายงานที่มีอยู่ไม่ได้ยืนยันรายละเอียดทุกขั้นตอนว่าจะเกิดการครอบงำเช่นนั้นได้อย่างไร

ทำไมแนวทางผู้ตรวจสอบจึงต่างจากอีกสองแบบ

การที่อัลต์แมนดูจะเอนเอียงไปทางองค์กรกำกับดูแลระหว่างประเทศ สะท้อนแนวคิดเรื่องกติกากลางและการตรวจสอบที่เป็นอิสระ แทนการปล่อยให้แต่ละแล็บตัดสินเรื่องความปลอดภัยกันเอง อย่างไรก็ตาม แหล่งข่าวไม่ได้ให้คำอธิบายโดยละเอียดจากอัลต์แมนว่าเหตุใดเขาจึงชอบแนวทางนี้มากกว่าองค์กรวิจัยร่วมแบบ CERN 5 15

ในทางปฏิบัติ ทั้งสองแนวทางมีบทบาทต่างกัน: องค์กรกำกับดูแลจะกำหนดมาตรฐานและตรวจสอบผู้พัฒนา ส่วนองค์กรวิจัยร่วมจะนำผู้พัฒนาเข้าไปทำงานภายใต้สถาบันเดียวกัน ขณะที่การมีผู้พัฒนารายเดียวครองตลาดคือการรวมอำนาจไว้กับบริษัทหนึ่ง ไม่ใช่การกระจายอำนาจกำกับดูแล

แล้วองค์กรกำหนดมาตรฐานของอุตสาหกรรมเกี่ยวข้องอย่างไร

แยกจากแนวคิดผู้ตรวจสอบระดับนานาชาติ มีรายงานว่า OpenAI, Google และ Anthropic กำลังผลักดันองค์กรภาคอุตสาหกรรมด้านมาตรฐาน AI ขั้นสูง องค์กรที่เสนอขึ้นมานี้อาจสนับสนุนการประเมินโดยบุคคลภายนอก และกำหนดแนวปฏิบัติร่วม เช่น การทดสอบความปลอดภัยหรือการรายงานเหตุการณ์ 1 14

แต่ข้อเสนอนี้ไม่ใช่สิ่งเดียวกับองค์กรกำกับดูแลระหว่างประเทศตามฉากทัศน์แรก เพราะมีการรายงานว่าเป็นความริเริ่มของภาคอุตสาหกรรม ไม่ใช่หน่วยงานระหว่างประเทศที่มีอำนาจสาธารณะ และยังไม่มีข้อมูลยืนยันว่าองค์กรที่เสนอนี้จะมีอำนาจบังคับใช้กติกาในระดับเดียวกับแนวคิดผู้ตรวจสอบสากล 5 14

โดยรวมแล้ว สามฉากทัศน์ชวนตั้งคำถามว่า กติกาความปลอดภัยของ AI ควรถูกกำหนดและตรวจสอบในระดับนานาชาติ ควรพัฒนาเทคโนโลยีร่วมกัน หรือปล่อยให้ตลาดเดินไปจนบริษัทเดียวอาจมีอำนาจชี้ขาดเหนือคู่แข่ง รายงานระบุว่าอัลต์แมนเอนเอียงไปทางการกำกับดูแล และไม่ต้องการผลลัพธ์แบบสุดท้าย แต่รายละเอียดทั้งหมดยังอิงจากรายงานคำพูดของเขา ไม่ใช่แผนทางการที่ประกาศใช้แล้ว 5 10 15

Studio Global AI

ทำการวิจัยต่อ

หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global

ค้นหาและตรวจสอบข้อเท็จจริงด้วย Studio Global AI

คนยังถาม

คำตอบสั้น ๆ สำหรับ "3 ฉากทัศน์กำกับดูแลซูเปอร์อินเทลลิเจนซ์ที่แซม อัลต์แมนเล่าให้ทีม OpenAI ฟัง" คืออะไร

ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?

แหล่งที่มา