คำตอบเผยแพร่แล้ว23 แหล่งที่มา
Accenture และ Anthropic ทุ่มอย่างน้อย 2 พันล้านดอลลาร์ สร้างผู้ประเมินความปลอดภัย AI แบบฝังตัว
Accenture และ Anthropic คาดว่าจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ใน 5 ปี หรือรวมอย่างน้อย 2 พันล้านดอลลาร์ เพื่อขยายขีดความสามารถด้านการประเมิน AI ระดับแนวหน้า Faculty ธุรกิจ AI เฉพาะทางของ Accenture จะนำทีมผู้ประเมินแบบฝังตัว ทำหน้าที่ทดสอบเจาะระบบ ประเมินการทำให้ AI สอดคล้องกับเป้าหมาย และทดสอบมาตรการคุ้มครองข...
เผยแพร่โดยแก้ไขด้วย GPT-5.6 Terraรูปภาพสร้างด้วย GPT Image 2
คำตอบการวิจัย
ประเด็นสำคัญ
- Accenture และ Anthropic คาดว่าจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ใน 5 ปี หรือรวมอย่างน้อย 2 พันล้านดอลลาร์ เพื่อขยายขีดความสามารถด้านการประเมิน AI ระดับแนวหน้า
- Faculty ธุรกิจ AI เฉพาะทางของ Accenture จะนำทีมผู้ประเมินแบบฝังตัว ทำหน้าที่ทดสอบเจาะระบบ ประเมินการทำให้ AI สอดคล้องกับเป้าหมาย และทดสอบมาตรการคุ้มครองของ Anthropic
- ข้อตกลงนี้ไม่ผูกขาด โดย Anthropic ระบุว่าจะทำงานกับผู้ประเมินหลายราย รวมถึงกำลังพิจารณาความร่วมมือกับ METR และองค์กรไม่แสวงกำไรอื่น
AI พรอมต์
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture และ Anthropic ประกาศความร่วมมือด้านความปลอดภัย AI ระยะเวลา 5 ปี โดยมีหัวใจอยู่ที่แนวคิด การประเมินแบบฝังตัว (embedded evaluation) นั่นคือการให้ผู้ประเมินอิสระทำงานเคียงข้างทีมภายในของ Anthropic เพื่อตรวจสอบโมเดล AI ระดับแนวหน้า แนวปฏิบัติด้านความปลอดภัย และมาตรการป้องกันต่าง ๆ
ทั้งสองบริษัทคาดว่าจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์สหรัฐภายใน 5 ปี ทำให้ยอดลงทุนที่ประกาศรวมกันอยู่ที่อย่างน้อย 2 พันล้านดอลลาร์สหรัฐ 3
13
ผู้ประเมินแบบฝังตัวจะทำอะไรบ้าง
โครงการนี้จะนำโดย Faculty ธุรกิจ AI เฉพาะทางของ Accenture ทีมงานมีหน้าที่ประเมินและทำ red-teaming กับโมเดลของ Anthropic ซึ่งหมายถึงการพยายามทดสอบให้ระบบแสดงพฤติกรรมผิดพลาดหรือเผยจุดอ่อน รวมถึงประเมินการทำให้ AI สอดคล้องกับเป้าหมายที่มนุษย์กำหนด และทดสอบมาตรการคุ้มครองของโมเดล โดยทำงานร่วมกับทีมภายในและพันธมิตรด้านความปลอดภัยของ Anthropic 3
13
สาระสำคัญคือการทำให้การประเมินเกิดขึ้นอย่างต่อเนื่อง มากกว่าการตรวจสอบจากภายนอกเป็นครั้งคราวก่อนเปิดตัวโมเดล Anthropic อธิบายว่าแนวทางนี้มีเป้าหมายให้ผู้ตรวจสอบภายนอกเข้าถึงงานในระดับใกล้เคียงพนักงาน เพื่อยืนยันว่าบริษัทยึดตามแนวทางที่ประกาศไว้เกี่ยวกับการฝึกโมเดล การนำไปใช้งาน การดำเนินงาน และมาตรการป้องกัน ไม่ใช่เพียงทดสอบโมเดลที่พัฒนาเสร็จแล้วเท่านั้น 14
41
ขอบเขตดังกล่าวจึงครอบคลุมทั้งตัวโมเดลและกระบวนการแวดล้อมการพัฒนาและการนำโมเดลไปใช้งาน อย่างไรก็ดี ทั้งสองบริษัทก็ยอมรับว่าการประเมินแบบฝังตัวยังเป็นแนวทางใหม่ และรายละเอียดเชิงปฏิบัติอีกหลายส่วนยังต้องกำหนดต่อไป 13
ความเป็นอิสระอยู่ตรงไหน และมีขอบเขตอย่างไร
ข้อเสนอในวงกว้างของ Anthropic ระบุว่าผู้ประเมินภายนอกควรได้รับสิทธิ์เข้าถึงในระดับใกล้เคียงกับทีมประเมินความเสี่ยงภายใน รวมถึงการเข้าถึงพื้นที่ทำงานและการพูดคุยกับพนักงาน อีกทั้งควรมีสิทธิ์เผยแพร่ข้อค้นพบสำคัญเรื่องความเสี่ยง เหตุการณ์ แนวปฏิบัติ และระดับการเข้าถึงของตนเองได้ โดยไม่อยู่ภายใต้การแก้ไขเนื้อหาจาก Anthropic 14
41
แต่ความเป็นอิสระดังกล่าวมีข้อจำกัด Anthropic ระบุว่าจะยังมีสิทธิ์จำกัดในการปกปิดข้อมูลที่อ่อนไหวต่อความมั่นคง ได้รับความคุ้มครองตามเอกสิทธิ์ทางกฎหมาย มีความอ่อนไหวทางการค้า หรือเป็นข้อมูลลับของบุคคลที่สาม ประเด็นสำคัญที่ยังต้องติดตามจึงอยู่ที่ข้อตกลงฉบับจริงจะกำหนดสิทธิ์เข้าถึง การรายงาน และการเปิดเผยข้อมูลไว้อย่างไร 14
41
อยู่ในแผน “We Must Pace the Frontier” ของ Dario Amodei อย่างไร
Anthropic ระบุว่าความร่วมมือกับ Accenture คือก้าวแรกของการทำตามคำมั่นในบทความ We Must Pace the Frontier ของ Dario Amodei ซีอีโอของบริษัท ที่ต้องการฝังผู้ประเมินจากบุคคลที่สามเข้าไปในองค์กร 13
ข้อเสนอนี้มี 3 ส่วนหลัก
- ผู้ประเมินจากบุคคลที่สามแบบฝังตัว — บริษัท AI ระดับแนวหน้าควรเปิดให้ผู้ประเมินอิสระเข้าถึงอย่างต่อเนื่องในระดับใกล้เคียงพนักงาน เพื่อตรวจสอบแนวปฏิบัติด้านความปลอดภัย ประเมินทั้งกระบวนการฝึกและโมเดล ตลอดจนรายงานเหตุการณ์ที่พบ โดย Anthropic ให้คำมั่นว่าจะเริ่มทำส่วนนี้กับบริษัทเอง
14
45
- การประสานงานระหว่างห้องปฏิบัติการ AI ระดับแนวหน้าในประเทศประชาธิปไตย — กรอบของ Amodei เสนอให้มีแนวทางร่วมที่ตรวจสอบได้ เพื่อลดแรงจูงใจในการลดทอนมาตรฐานความปลอดภัยเพื่อแข่งกันพัฒนา AI ให้เร็วที่สุด
21
- การประสานงานระดับโลก — ข้อเสนอยังมองถึงการประสานงานนอกกลุ่มประเทศประชาธิปไตยด้วย แม้ยอมรับว่าการตรวจสอบระหว่างรัฐบาลและบริษัทจากหลายประเทศทำได้ยาก
37
Anthropic เห็นว่ารัฐบาลควรช่วยทำให้การประเมินโดยอิสระและความโปร่งใสกลายเป็นความคาดหวังมาตรฐานสำหรับผู้พัฒนาโมเดล AI ระดับแนวหน้า แทนที่จะปล่อยให้เป็นเพียงคำมั่นโดยสมัครใจของแต่ละบริษัท 24
27
ไม่ใช่ผู้ประเมินรายเดียว
ข้อตกลงกับ Accenture ไม่ได้หมายความว่า Faculty จะเป็นผู้ประเมินภายนอกรายเดียวของ Anthropic บริษัทระบุว่าจะใช้ผู้ประเมินหลายราย และกำลังพิจารณางานร่วมกับ METR รวมถึงผู้ประเมินที่เป็นองค์กรไม่แสวงกำไรอื่น ๆ ภายใต้รูปแบบการสนับสนุนเงินทุนแยกต่างหาก ขณะเดียวกัน Accenture ก็สามารถทำงานลักษณะเดียวกันให้ผู้พัฒนา AI รายอื่นได้ 13
ในระยะแรก Anthropic จะสนับสนุนเงินทุนสำหรับงานของ Accenture โดยตรง เนื่องจากมองว่าการสร้างขีดความสามารถด้านการประเมินมีความสำคัญและเร่งด่วน แต่บริษัทยังเสนอว่าในระยะยาว แหล่งเงินทุนแบบรวมศูนย์หรือจากภาครัฐอาจช่วยหนุนความเป็นอิสระของผู้ประเมินได้ดีกว่า 9
13
ต่อเนื่องจากดีลเชิงพาณิชย์ก่อนหน้า
ความร่วมมือด้านความปลอดภัยครั้งนี้เกิดขึ้นหลังจากที่ทั้งสองบริษัทขยายความสัมพันธ์ทางธุรกิจในเดือนธันวาคม 2025 โดยตั้ง Accenture Anthropic Business Group และวางแผนอบรมบุคลากร Accenture ราว 30,000 คนเกี่ยวกับ Claude 1
2
แต่ประกาศใหม่มีเป้าหมายต่างออกไป คือการสร้างขีดความสามารถสำหรับประเมินความปลอดภัยของ AI ระดับแนวหน้าอย่างต่อเนื่อง หลังข่าวประกาศ หุ้น Accenture มีรายงานว่าปรับขึ้นราว 6% ในการซื้อขายนอกเวลาตลาดช่วงต้น 5
ประเด็นที่ต้องจับตา
ตัวเลขลงทุนอย่างน้อย 2 พันล้านดอลลาร์เป็นพาดหัวที่สะดุดตา แต่แก่นของเรื่องคือความพยายามทำให้เกิดรูปแบบกำกับดูแลใหม่: ผู้ประเมินจากภายนอกเข้าไปทำงานภายในผู้พัฒนา AI ระดับแนวหน้า โดยมีสิทธิ์เข้าถึงที่ตั้งใจให้ใกล้เคียงทีมประเมินความเสี่ยงภายใน มากกว่าผู้ตรวจสอบที่เข้ามาเป็นระยะ
โมเดลนี้จะสร้างความรับผิดรับชอบที่เป็นอิสระได้จริงหรือไม่ ยังขึ้นอยู่กับเงื่อนไขสุดท้าย โดยเฉพาะสิทธิ์เข้าถึงข้อมูลจริง ความสามารถในการเผยแพร่ข้อค้นพบเชิงลบ และการที่ห้องปฏิบัติการ AI ระดับแนวหน้าแห่งอื่นกับภาครัฐจะนำข้อกำหนดในทำนองเดียวกันไปใช้หรือไม่ 13
14
Studio Global AI
ทำการวิจัยต่อ
หน้านี้รวมคำตอบที่ได้รับการสนับสนุนจากแหล่งที่มาซึ่งคุณสามารถดำเนินการต่อภายใน Studio Global
คนยังถาม
คำตอบสั้น ๆ สำหรับ "Accenture และ Anthropic ทุ่มอย่างน้อย 2 พันล้านดอลลาร์ สร้างผู้ประเมินความปลอดภัย AI แบบฝังตัว" คืออะไร
Accenture และ Anthropic คาดว่าจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ใน 5 ปี หรือรวมอย่างน้อย 2 พันล้านดอลลาร์ เพื่อขยายขีดความสามารถด้านการประเมิน AI ระดับแนวหน้า
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร?
Accenture และ Anthropic คาดว่าจะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ใน 5 ปี หรือรวมอย่างน้อย 2 พันล้านดอลลาร์ เพื่อขยายขีดความสามารถด้านการประเมิน AI ระดับแนวหน้า Faculty ธุรกิจ AI เฉพาะทางของ Accenture จะนำทีมผู้ประเมินแบบฝังตัว ทำหน้าที่ทดสอบเจาะระบบ ประเมินการทำให้ AI สอดคล้องกับเป้าหมาย และทดสอบมาตรการคุ้มครองของ Anthropic
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ?
ข้อตกลงนี้ไม่ผูกขาด โดย Anthropic ระบุว่าจะทำงานกับผู้ประเมินหลายราย รวมถึงกำลังพิจารณาความร่วมมือกับ METR และองค์กรไม่แสวงกำไรอื่น