คำตอบเผยแพร่แล้ว16 แหล่งที่มา
OpenAI, Anthropic และ Google DeepMind หารือความร่วมมือด้านความปลอดภัย AI
มีรายงานว่า OpenAI, Anthropic และ Google DeepMind กำลังหารือแนวทางให้ความสำคัญกับความปลอดภัย AI แต่ Reuters ระบุว่าไม่สามารถตรวจสอบรายงานของ Bloomberg ได้อย่างอิสระ และทั้งสามบริษัทไม่ได้ตอบคำขอความเห็นในทันที คริส เลเฮน หัวหน้าฝ่ายนโยบายโลกของ OpenAI ระบุว่าการหารือดำเนินมาหลายสัปดาห์ และเห็นว่าไม่จำเป็นต้องได้รับก...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- มีรายงานว่า OpenAI, Anthropic และ Google DeepMind กำลังหารือแนวทางให้ความสำคัญกับความปลอดภัย AI แต่ Reuters ระบุว่าไม่สามารถตรวจสอบรายงานของ Bloomberg ได้อย่างอิสระ และทั้งสามบริษัทไม่ได้ตอบคำขอความเห็นในทันที
- คริส เลเฮน หัวหน้าฝ่ายนโยบายโลกของ OpenAI ระบุว่าการหารือดำเนินมาหลายสัปดาห์ และเห็นว่าไม่จำเป็นต้องได้รับการยกเว้นกฎหมายต่อต้านการผูกขาดเพื่อประสานงานด้านความปลอดภัย
- การหารือเกิดขึ้นในช่วงที่ห้องปฏิบัติการ AI ชั้นนำและฝ่ายนิติบัญญัติสหรัฐฯ หันมาให้ความสำคัญมากขึ้นกับความเสี่ยงระดับหายนะ มาตรฐานร่วม และข้อกำหนดของรัฐบาลกลางต่อผู้พัฒนา AI
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What collaboration are OpenAI, Anthropic, and Google DeepMind reportedly pursuing on AI safety, why have concerns about AI’s existential and. Article summary: OpenAI, Anthropic, and Google DeepMind were reportedly discussing joint work to prioritize AI safety, following calls by leading U.S. AI-lab heads to pause further development amid rising existential-risk concerns. [4] -. Topic tags: general, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait t
รายงานว่าด้วยการพูดคุยระหว่าง OpenAI, Anthropic และ Google DeepMind ทำให้เกิดคำถามสำคัญต่ออุตสาหกรรม AI: คู่แข่งที่กำลังแข่งกันพัฒนาโมเดลล้ำหน้าจะร่วมมือกันเพื่อความปลอดภัยได้มากเพียงใด โดยไม่ล้ำเส้นไปสู่การประสานพฤติกรรมทางการค้าที่กระทบการแข่งขัน
Reuters รายงานโดยอ้าง Bloomberg News ว่า ทั้งสามบริษัทกำลังหารือการทำงานร่วมกันเพื่อให้ความสำคัญกับความปลอดภัย AI อย่างไรก็ดี Reuters ระบุว่าไม่สามารถตรวจสอบรายงานดังกล่าวได้อย่างอิสระ และ OpenAI, Alphabet ซึ่งเป็นบริษัทแม่ของ Google และ Anthropic ยังไม่ได้ตอบคำขอความเห็นในทันที 4
สิ่งที่มีรายงานว่ากำลังหารือกัน
ความริเริ่มที่รายงานนี้กล่าวถึงคือการที่ OpenAI, Anthropic และ Google DeepMind ของ Alphabet สำรวจความร่วมมือด้านความปลอดภัย AI คริส เลเฮน หัวหน้าฝ่ายนโยบายโลกของ OpenAI กล่าวว่า ทั้งสามฝ่ายพูดคุยกันมาหลายสัปดาห์ โดยเขาเห็นว่าบริษัทเหล่านี้ควรพยายามทำงานร่วมกันเพื่อให้ความสำคัญกับความปลอดภัย 4
แต่ข้อมูลที่เปิดเผยต่อสาธารณะยังไม่ได้ยืนยันว่ามีข้อตกลงฉบับสุดท้าย มาตรฐานร่วมที่ระบุชัด หรือโครงการด้านความปลอดภัยที่มีผลผูกพัน ดังนั้น ข้อสรุปที่รอบคอบที่สุดในตอนนี้คือ นี่เป็นการหารือที่มีรายงานออกมา ไม่ใช่การยืนยันว่ามีกรอบความร่วมมือข้ามบริษัทอย่างเป็นทางการแล้ว 4
เหตุใดความกังวลเรื่องความเสี่ยงร้ายแรงจึงเพิ่มขึ้น
การพูดคุยครั้งนี้เกิดขึ้นหลังผู้บริหารห้องปฏิบัติการ AI ชั้นนำของสหรัฐฯ ออกมาเรียกร้องให้ชะลอการพัฒนา AI เพิ่มเติม ส่งผลให้ความกังวลว่า AI ที่มีความสามารถสูงมากอาจก่อความเสี่ยงในระดับคุกคามการดำรงอยู่ของมนุษย์ได้รับความสนใจมากขึ้น 4
ประเด็นนี้กำลังขยายเข้าสู่การถกเถียงเชิงนโยบายด้วย Reuters รายงานว่าสมาชิกสภานิติบัญญัติสหรัฐฯ จำนวนมากขึ้นเรียกร้องกฎเกณฑ์สำหรับ AI หลังนักวิจัยของ Anthropic เตือนว่าความก้าวหน้าของ AI ที่รวดเร็วอาจนำไปสู่ความเสี่ยงระดับการสูญพันธุ์ได้ 3
ก่อนหน้านี้ Anthropic ยังเสนอให้ห้องปฏิบัติการรายใหญ่พิจารณาหยุดการพัฒนาอย่างประสานกันและตรวจสอบได้ หากความเสี่ยงเพิ่มสูงขึ้น โดยให้เหตุผลว่าระบบ AI อาจพัฒนาตัวเองได้เร็วกว่าที่สังคมจะจัดการผลกระทบตามมาไหว 15
ข้อกังวลเหล่านี้เป็นการประเมินความสามารถและความเสี่ยงที่อาจเกิดขึ้นในอนาคต ไม่ได้หมายความว่าทุกฝ่ายเห็นตรงกันว่าผลลัพธ์ดังกล่าวเป็นสิ่งหลีกเลี่ยงไม่ได้ แต่ก็ช่วยอธิบายว่าทำไมมาตรการป้องกันโดยสมัครใจของบริษัท มาตรฐานร่วม และการกำกับดูแลที่บังคับใช้ได้ จึงถูกหยิบมาถกเถียงพร้อมกัน
โจทย์กฎหมายแข่งขันทางการค้า
อุปสรรคสำคัญคือกฎหมายต่อต้านการผูกขาด การทำงานร่วมกันระหว่างคู่แข่งอาจถูกตรวจสอบได้ หากส่งผลต่อการแข่งขัน โดยเฉพาะเมื่อทั้งสามบริษัทกำลังแข่งขันอย่างเข้มข้นเพื่อพัฒนาและนำโมเดล AI ขั้นสูงออกใช้งาน
เลเฮนกล่าวว่า เขาไม่เชื่อว่า OpenAI, Anthropic และ Google DeepMind จำเป็นต้องได้รับการยกเว้นจากกฎหมายต่อต้านการผูกขาดเพื่อประสานงานด้านความปลอดภัย 4 อย่างไรก็ตาม ประเด็นนี้มีความเห็นต่างในวงถกเถียงเชิงนโยบาย แอนดรูว์ เฟอร์กูสัน ประธานคณะกรรมาธิการการค้าสหพันธรัฐสหรัฐฯ (FTC) กล่าวว่า ผู้คนควร “ระแวดระวังอย่างยิ่ง” ต่อบริษัท AI ที่ขอข้อยกเว้นดังกล่าว ขณะที่ผู้เชี่ยวชาญบอก Reuters ว่ากฎหมายต่อต้านการผูกขาดที่มีอยู่เดิมอาจอนุญาตให้มีการประสานงานเพื่อป้องกันความเสี่ยงระดับหายนะได้อยู่แล้ว
2
ความแตกต่างนี้มีนัยสำคัญ การแบ่งปันแนวทางทดสอบความปลอดภัยหรือวิธีจัดการความเสี่ยงร่วมกัน อาจอธิบายได้ว่าเป็นการลดอันตรายต่อสาธารณะ แต่การตกลงชะลอการพัฒนาในลักษณะที่จำกัดการแข่งขันในตลาด จะก่อคำถามทางกฎหมายและนโยบายที่ซับซ้อนกว่า
ทิศทางด้านกฎหมายของสหรัฐฯ
เลเฮนยังระบุว่า OpenAI จะสนับสนุนกฎหมายสหรัฐฯ ที่ได้รับการสนับสนุนจากทั้งสองพรรคการเมือง เพื่อบรรเทาความเสี่ยง AI ระดับหายนะ 4
ท่าทีนี้สอดคล้องกับความเคลื่อนไหวในกรุงวอชิงตัน โดยผู้เจรจาในวุฒิสภาสหรัฐฯ กำลังพิจารณาแนวคิดเรื่อง “หน้าที่ในการดูแล” หรือ duty of care ที่อาจกำหนดให้ผู้พัฒนา AI ต้องแสดงหลักฐานว่าได้ใช้มาตรการป้องกันอันตรายอย่างสมเหตุสมผล กระทรวงพาณิชย์สหรัฐฯ อาจมีอำนาจขอหลักฐานและส่งผู้ตรวจสอบไปทดสอบผลิตภัณฑ์ได้ 8
OpenAI ยังเคยเรียกร้องให้สหรัฐฯ กำหนดข้อบังคับด้านความปลอดภัย AI ระดับชาติที่มีผลบังคับ และระบุว่ามาตรฐานเหล่านี้ควรขยายออกไปนอกสหรัฐฯ ด้วย 6
สิ่งที่ต้องจับตาต่อไป
คำถามสำคัญที่สุดคือ บทสนทนาที่มีรายงานนี้จะพัฒนาไปเป็นคำมั่นสัญญาต่อสาธารณะที่เป็นทางการหรือไม่ และจะมีมาตรการคุ้มครอง การประเมินโดยอิสระ และกลไกความรับผิดชอบที่ชัดเจนเพียงใด
ในตอนนี้ ข้อเท็จจริงที่ยืนยันได้สนับสนุนข้อสรุปที่แคบกว่า คือ OpenAI, Anthropic และ Google DeepMind มีรายงานว่ากำลังหารือเรื่องความปลอดภัย ท่ามกลางความกังวลที่เพิ่มขึ้นต่อความเสี่ยงจาก AI ขั้นสูง รวมถึงแรงกดดันให้มีมาตรฐานร่วมและกฎของรัฐบาลกลาง 4
หากเกิดความร่วมมือขึ้นจริง มันน่าจะถูกตัดสินจากสองเงื่อนไขพร้อมกัน: สร้างการคุ้มครองด้านความปลอดภัยที่มีความหมายได้จริงหรือไม่ และทำเช่นนั้นโดยไม่กลายเป็นช่องทางให้คู่แข่งลดทอนการแข่งขันภายใต้ชื่อของ “ความปลอดภัย” หรือไม่
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "OpenAI, Anthropic และ Google DeepMind หารือความร่วมมือด้านความปลอดภัย AI" คืออะไร
มีรายงานว่า OpenAI, Anthropic และ Google DeepMind กำลังหารือแนวทางให้ความสำคัญกับความปลอดภัย AI แต่ Reuters ระบุว่าไม่สามารถตรวจสอบรายงานของ Bloomberg ได้อย่างอิสระ และทั้งสามบริษัทไม่ได้ตอบคำขอความเห็นในทันที
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
มีรายงานว่า OpenAI, Anthropic และ Google DeepMind กำลังหารือแนวทางให้ความสำคัญกับความปลอดภัย AI แต่ Reuters ระบุว่าไม่สามารถตรวจสอบรายงานของ Bloomberg ได้อย่างอิสระ และทั้งสามบริษัทไม่ได้ตอบคำขอความเห็นในทันที คริส เลเฮน หัวหน้าฝ่ายนโยบายโลกของ OpenAI ระบุว่าการหารือดำเนินมาหลายสัปดาห์ และเห็นว่าไม่จำเป็นต้องได้รับการยกเว้นกฎหมายต่อต้านการผูกขาดเพื่อประสานงานด้านความปลอดภัย
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
การหารือเกิดขึ้นในช่วงที่ห้องปฏิบัติการ AI ชั้นนำและฝ่ายนิติบัญญัติสหรัฐฯ หันมาให้ความสำคัญมากขึ้นกับความเสี่ยงระดับหายนะ มาตรฐานร่วม และข้อกำหนดของรัฐบาลกลางต่อผู้พัฒนา AI
แหล่งที่มา
reuters.comOpenAI is working with Anthropic, Google on AI safety ...