GPT-6 Astra ของ OpenAI: สิ่งที่บริษัทประกาศ และความหมายของคำเคลมเหล่านั้น

OpenAI ประกาศเมื่อวันที่ 3 กันยายนว่า GPT-6 Astra คือโมเดลสำหรับงานที่ยากและมีหลายขั้นตอน ตั้งแต่งานเขียนโค้ด การค้นคว้า การสั่งงานคอมพิวเตอร์ ไปจนถึงเวิร์กโฟลว์ระดับมืออาชีพ บริษัทเรียกโมเดลนี้ว่าเป็นรุ่นที่ฉลาดและสอดคล้องกับเจตนาผู้ใช้มากที่สุดเท่าที่เคยมี แต่เลือกเริ่มเปิดใช้กับองค์กรเพียงกลุ่มจำกัด แทนการเปิดให้ทุกคนใช้ทันที 2513

ประเด็นสำคัญของการเปิดตัวไม่ได้อยู่ที่ตัวเลขเบนช์มาร์กเท่านั้น OpenAI ระบุว่า Astra เป็นโมเดลแรกที่ผ่านเกณฑ์ความสามารถด้านความมั่นคงปลอดภัยไซเบอร์ระดับ Critical ตามกรอบ Preparedness Framework ของบริษัทเอง จึงควรอ่านคำเคลมด้านความสามารถควบคู่ไปกับวิธีจำกัดและทยอยเปิดการเข้าถึง 1012

คำเคลมหลัก: ทำงานอัตโนมัติที่ซับซ้อนได้มากขึ้น

OpenAI ระบุว่า Astra มีผลงานระดับแนวหน้าในงานควบคุมคอมพิวเตอร์ การท่องเว็บ วิศวกรรมซอฟต์แวร์ ความปลอดภัยไซเบอร์ วิทยาศาสตร์ และงานวิชาชีพ เอกสารสำหรับนักพัฒนาระบุว่าโมเดลถูกออกแบบมาสำหรับการใช้เหตุผลที่ซับซ้อน การเขียนโค้ด การใช้คอมพิวเตอร์ การวิจัย และการสร้างเอกสาร 1313

ตัวเลขเด่นที่บริษัทเผยแพร่มี 3 รายการ ได้แก่

• 98% บน FrontierMath Tier 4
• 99.9% บน ARC-AGI-3
• 100% บน ExploitBench 13

ตัวเลขเหล่านี้คือผลการประเมินที่ OpenAI เผยแพร่ ไม่ใช่ผลที่ได้รับการทดสอบยืนยันซ้ำอย่างอิสระ คะแนนสูงอาจสะท้อนความก้าวหน้าบนโจทย์ที่แบบทดสอบวัดได้ แต่ยังไม่พิสูจน์ว่าโมเดลมีปัญญาประดิษฐ์ทั่วไป มีวิจารณญาณที่เชื่อถือได้ในโลกจริง หรือทำงานอย่างปลอดภัยโดยอัตโนมัติได้ในทุกสภาพแวดล้อม

เหตุใดสถานะไซเบอร์ระดับ “Critical” จึงมีนัยสำคัญ

OpenAI ระบุว่า Astra เป็นโมเดลแรกที่บริษัทจัดอยู่ในระดับ Critical ด้านความสามารถไซเบอร์ ภายใต้ Preparedness Framework ของตนเอง ตามคำอธิบายของบริษัท สถานะนี้หมายความว่า เมื่อโมเดลมีเครื่องมือและสิทธิ์เข้าถึงที่เหมาะสม มันสามารถระบุช่องโหว่ความปลอดภัยที่ไม่เคยรู้จักมาก่อน และพัฒนาวิธีโจมตีใหม่ต่อระบบที่ได้รับการป้องกันอย่างดีจำนวนมากได้ โดยไม่ต้องมีมนุษย์คอยชี้นำทุกขั้นตอน 1012

คำเคลมนี้มีขอบเขตสำคัญ 2 ข้อ

1. ความสามารถดังกล่าวขึ้นอยู่กับเครื่องมือและสิทธิ์เข้าถึงที่มอบให้โมเดล
2. การจัดระดับมาจากกรอบและกระบวนการประเมินของ OpenAI เอง

OpenAI ระบุว่าได้เพิ่มมาตรการป้องกันการกระทำไซเบอร์ที่เป็นอันตราย รวมถึงการเฝ้าระวังเพิ่มเติมระหว่างทยอยเปิด Astra 510 การไม่เปิดใช้งานแก่สาธารณะในทันทีจึงสอดคล้องกับระดับความเสี่ยงที่บริษัทระบุไว้

“สอดคล้องกับเจตนา” เป็นคำเคลมของบริษัท ไม่ใช่การรับประกัน

OpenAI ยังเรียก Astra ว่าเป็นโมเดลที่สอดคล้องกับเจตนาผู้ใช้มากที่สุด โดยระบุว่ามันเคารพขอบเขตงานและสื่อสารอย่างโปร่งใสได้ดีขึ้น 213

อย่างไรก็ดี คำว่า “สอดคล้อง” ในการเปิดตัวโมเดล หมายถึงผลการทำงานภายใต้วิธีฝึกและการทดสอบเฉพาะชุด ไม่ใช่คำรับประกันว่าเอเจนต์จะตีความความต้องการของผู้ใช้ได้ถูกต้องเสมอ อยู่ในขอบเขตการปฏิบัติงานทุกกรณี หรือปลอดภัยพอให้ใช้งานโดยไม่มีคนตรวจทาน บันทึกการออกรุ่นของ OpenAI เองระบุว่ามีการเฝ้าระวังเพิ่มเติมเพื่อค้นหากรณีที่เอเจนต์อาจตีความคำสั่งผิด 5

สำหรับองค์กรที่กำลังพิจารณาใช้เอเจนต์ AI คำถามเชิงปฏิบัติไม่ได้อยู่ที่โมเดลถูกติดป้ายว่า “aligned” หรือไม่ แต่อยู่ที่มันได้รับสิทธิ์อะไรบ้าง การกระทำใดต้องผ่านการอนุมัติ มีการบันทึกกิจกรรมอย่างไร และระบบหยุดทำงานได้รวดเร็วเพียงใดเมื่อเกิดพฤติกรรมที่ไม่คาดคิด

ตัวเลขเบนช์มาร์กและข้อกังวลเรื่องการเฝ้าระวัง: สิ่งที่ยืนยันได้

ข้อมูลที่ให้มาระบุว่าภายหลังมีการตั้งข้อสังเกตต่อผลประเมินบางตัว รวมถึงความกังวลเรื่องข้อมูลปนเปื้อนในเบนช์มาร์ก และความแตกต่างระหว่างการตั้งค่าการเข้าถึงแบบพิเศษกับการเข้าถึงผลิตภัณฑ์ปกติ อีกทั้งยังกล่าวถึงการทดสอบที่การเฝ้าระวังโดยดูเฉพาะ chain-of-thought มีประสิทธิภาพน้อยกว่าการเฝ้าระวังที่เห็นบริบทครบถ้วน

อย่างไรก็ตาม เอกสารต้นทางหลักที่มีอยู่ไม่ได้ให้ประวัติการแก้ไขผลลัพธ์ทั้งหมดที่ตรวจสอบย้อนกลับได้อย่างสมบูรณ์ หรือระเบียบวิธีเฝ้าระวังฉบับเต็ม ข้อสรุปที่เหมาะสมจึงมีเพียงว่า ตัวเลขเบนช์มาร์กและการประเมินความปลอดภัยควรถูกมองเป็นหลักฐานในช่วงเปิดตัวที่อาจเปลี่ยนแปลงได้ ผู้ใช้ควรตรวจเอกสารโมเดลและเอกสารด้านความปลอดภัยฉบับล่าสุดก่อนอ้างอิงคะแนนหรือคำเคลมใดเพื่อนำไปใช้จริง 2310

เหตุการณ์ Hugging Face ทำให้ประเด็นนี้ยิ่งสำคัญ

การเปิดตัว Astra เกิดขึ้นหลังเหตุการณ์ระหว่างการทดสอบด้านความปลอดภัยที่เกี่ยวข้องกับโมเดล OpenAI ก่อนหน้านี้ ซึ่งบริษัทระบุว่าเป็นบทเรียนที่นำมาปรับใช้กับแนวทางความปลอดภัยของ Astra โดย OpenAI ยืนยันว่า Astra ไม่ใช่โมเดลที่เกี่ยวข้องกับเหตุการณ์ดังกล่าว 10

บริบทนี้สำคัญ เพราะระบบอัตโนมัติรวมทั้งความสามารถของโมเดลและความสามารถในการลงมือทำผ่านเบราว์เซอร์ เครื่องมือเขียนโค้ด หรือซอฟต์แวร์อื่น ๆ โมเดลมีประโยชน์ก็เพราะสามารถดำเนินการข้ามระบบได้ แต่คุณสมบัติเดียวกันนี้ทำให้การแยกสภาพแวดล้อม การให้สิทธิ์เท่าที่จำเป็น และการเฝ้าระวัง มีความสำคัญยิ่งขึ้น

ใครเข้าถึงได้ และราคาเท่าไร

OpenAI ระบุว่า Astra เริ่มทยอยเปิดให้กับองค์กรจำนวนจำกัดก่อน และจะขยายการเข้าถึงต่อไปในภายหลัง 513

สำหรับนักพัฒนา OpenAI ระบุราคา GPT-6 Astra ที่ 10 ดอลลาร์สหรัฐต่อ 1 ล้านโทเค็นขาเข้า และ 50 ดอลลาร์สหรัฐต่อ 1 ล้านโทเค็นขาออก หน้าข้อมูลโมเดลยังระบุหน้าต่างบริบท 1.05 ล้านโทเค็น และส่งออกได้สูงสุด 128,000 โทเค็น 3

การเข้าถึงผ่าน ChatGPT เป็นอีกระบบหนึ่งและทยอยเปิดตามแพ็กเกจ เอกสารช่วยเหลือของ OpenAI ระบุว่า GPT-6 Pro ซึ่งขับเคลื่อนด้วย Astra กำลังทยอยเปิดให้แพ็กเกจ Pro 100 ดอลลาร์สหรัฐ, Pro 200 ดอลลาร์สหรัฐ, Business และ Enterprise ส่วนแพ็กเกจ Plus จะได้รับ Astra ใน ChatGPT Work และ Codex ตามลำดับการเปิดใช้ ทั้งนี้การพร้อมใช้งานอาจต่างกันระหว่างผลิตภัณฑ์ ChatGPT และการตั้งค่าของพื้นที่ทำงาน 6

บทสรุปสำหรับผู้ใช้งานและองค์กร

การเปิดตัว GPT-6 Astra มีสองข้อความที่ไม่ควรถูกแยกออกจากกัน: OpenAI เคลมว่ามันก้าวหน้าอย่างมากสำหรับงานเอเจนต์ที่ซับซ้อน และในเวลาเดียวกันก็จัดความสามารถไซเบอร์ของมันไว้ที่ระดับความเสี่ยงสูงสุดตามที่บริษัทประกาศ 1013

คะแนนเบนช์มาร์กคือหลักฐานว่า OpenAI ระบุว่า Astra ทำอะไรได้ภายใต้การประเมินของบริษัท ขณะที่การทยอยเปิดใช้ การเฝ้าระวังเพิ่ม และข้อจำกัดด้านไซเบอร์ สะท้อนว่าบริษัทเองก็ไม่ได้มองความสามารถเหล่านี้เป็นเรื่องปกติ สำหรับทีมที่กำลังประเมินโมเดล แนวทางที่ควรให้ความสำคัญคือการใช้งานแบบควบคุมได้: จำกัดขอบเขตเครื่องมือ กำหนดจุดอนุมัติอย่างชัดเจนสำหรับการกระทำที่มีผลกระทบสูง ใช้สภาพแวดล้อมแยกต่างหาก และเก็บบันทึกที่ตรวจสอบได้ แทนการสมมติว่าคะแนนเบนช์มาร์กจะแปลเป็นความเป็นอิสระที่ไว้วางใจได้โดยอัตโนมัติ