คำตอบการวิจัย
ประเด็นสำคัญ OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว สรุปความปลอดภัยจะเก็บเฉพาะข้อมูลที่เกี่ยวกับความเสี่ยง เช่น สัญญาณการทำร้ายตัวเอง ความทุกข์ทางอารมณ์ หรือความรุนแรง การอัปเดตนี้พัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน เพื่อปรับปรุงการตอบสนองของ AI ในบทสนทนาที่ละเอียดอ่อน OpenAI’s New ChatGPT Safety System: How “Safety Summaries” Detect Risk Across Conversations New safety systems in ChatGPT analyze patterns across conversations to detect escalating risk signals. AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: OpenAI’s New ChatGPT Safety System: How “Safety Summaries” Detect Risk Across Conversations. Article summary: OpenAI updated ChatGPT so it can detect risks that emerge gradually during conversations by using temporary “safety summaries” that carry forward only safety‑relevant signals.. Topic tags: openai, chatgpt, ai safety, mental health, responsible ai. Reference image context from search candidates: Reference image 1: visual subject "OpenAI says the update uses narrowly scoped safety summaries to preserve earlier safety-relevant context, improving safe responses when risk" source context "OpenAI adds safety summaries so ChatGPT can recognize risk across sensitive conversations - NG Tech LLC" Reference image 2: visual subject "A digital display features the text “OpenAI’s ChatGPT Health Tools Ignite Privacy and Saf
openai.com ระบบความปลอดภัยของ AI ในอดีตมักประเมินความเสี่ยงจาก ข้อความของผู้ใช้ทีละข้อความ เท่านั้น วิธีนี้ใช้ได้ดีเมื่อความเสี่ยงถูกพูดออกมาตรง ๆ แต่ในโลกจริง ปัญหาหลายอย่าง—โดยเฉพาะวิกฤตด้านสุขภาพจิต—มักค่อย ๆ พัฒนาในระหว่างการสนทนาที่ยาวขึ้น
เพื่อแก้ปัญหานี้ OpenAI จึงเพิ่มฟีเจอร์ใหม่ใน ChatGPT ที่เรียกว่า “Safety Summaries” ซึ่งเป็นบันทึกสั้น ๆ ที่ระบบสร้างขึ้นเพื่อเก็บสัญญาณด้านความปลอดภัยจากข้อความก่อนหน้า ทำให้ AI สามารถมองเห็นรูปแบบของความเสี่ยงที่ค่อย ๆ เพิ่มขึ้นระหว่างการสนทนาได้ดีขึ้น
ทำไมระบบความปลอดภัยต้องเปลี่ยน
ระบบตรวจสอบเนื้อหาแบบเดิมมักออกแบบมาเพื่อวิเคราะห์ข้อความแต่ละข้อความแบบแยกจากกัน แต่ปัญหาหลายอย่างไม่ได้ปรากฏในทันที
งานวิจัยและการวิเคราะห์ด้านความปลอดภัยพบว่า สัญญาณเตือนอาจกระจายอยู่ในหลายข้อความ เช่น ผู้ใช้อาจเริ่มต้นด้วยการพูดถึงความเครียด ความเหนื่อยล้า หรือปัญหาชีวิต ก่อนจะค่อย ๆ เปิดเผยความทุกข์ทางอารมณ์ที่รุนแรงกว่าในภายหลัง
คนยังถาม คำตอบสั้น ๆ สำหรับ "ChatGPT ใช้ “Safety Summaries” ตรวจจับความเสี่ยงที่ค่อย ๆ เพิ่มขึ้นระหว่างบทสนทนาได้อย่างไร" คืออะไร OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว สรุปความปลอดภัยจะเก็บเฉพาะข้อมูลที่เกี่ยวกับความเสี่ยง เช่น สัญญาณการทำร้ายตัวเอง ความทุกข์ทางอารมณ์ หรือความรุนแรง
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? การอัปเดตนี้พัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน เพื่อปรับปรุงการตอบสนองของ AI ในบทสนทนาที่ละเอียดอ่อน
คำตอบการวิจัย
ประเด็นสำคัญ OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว สรุปความปลอดภัยจะเก็บเฉพาะข้อมูลที่เกี่ยวกับความเสี่ยง เช่น สัญญาณการทำร้ายตัวเอง ความทุกข์ทางอารมณ์ หรือความรุนแรง การอัปเดตนี้พัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน เพื่อปรับปรุงการตอบสนองของ AI ในบทสนทนาที่ละเอียดอ่อน OpenAI’s New ChatGPT Safety System: How “Safety Summaries” Detect Risk Across Conversations New safety systems in ChatGPT analyze patterns across conversations to detect escalating risk signals. AI พรอมต์ Create a landscape editorial hero image for this Studio Global article: OpenAI’s New ChatGPT Safety System: How “Safety Summaries” Detect Risk Across Conversations. Article summary: OpenAI updated ChatGPT so it can detect risks that emerge gradually during conversations by using temporary “safety summaries” that carry forward only safety‑relevant signals.. Topic tags: openai, chatgpt, ai safety, mental health, responsible ai. Reference image context from search candidates: Reference image 1: visual subject "OpenAI says the update uses narrowly scoped safety summaries to preserve earlier safety-relevant context, improving safe responses when risk" source context "OpenAI adds safety summaries so ChatGPT can recognize risk across sensitive conversations - NG Tech LLC" Reference image 2: visual subject "A digital display features the text “OpenAI’s ChatGPT Health Tools Ignite Privacy and Saf
openai.com ระบบความปลอดภัยของ AI ในอดีตมักประเมินความเสี่ยงจาก ข้อความของผู้ใช้ทีละข้อความ เท่านั้น วิธีนี้ใช้ได้ดีเมื่อความเสี่ยงถูกพูดออกมาตรง ๆ แต่ในโลกจริง ปัญหาหลายอย่าง—โดยเฉพาะวิกฤตด้านสุขภาพจิต—มักค่อย ๆ พัฒนาในระหว่างการสนทนาที่ยาวขึ้น
เพื่อแก้ปัญหานี้ OpenAI จึงเพิ่มฟีเจอร์ใหม่ใน ChatGPT ที่เรียกว่า “Safety Summaries” ซึ่งเป็นบันทึกสั้น ๆ ที่ระบบสร้างขึ้นเพื่อเก็บสัญญาณด้านความปลอดภัยจากข้อความก่อนหน้า ทำให้ AI สามารถมองเห็นรูปแบบของความเสี่ยงที่ค่อย ๆ เพิ่มขึ้นระหว่างการสนทนาได้ดีขึ้น
ทำไมระบบความปลอดภัยต้องเปลี่ยน
ระบบตรวจสอบเนื้อหาแบบเดิมมักออกแบบมาเพื่อวิเคราะห์ข้อความแต่ละข้อความแบบแยกจากกัน แต่ปัญหาหลายอย่างไม่ได้ปรากฏในทันที
งานวิจัยและการวิเคราะห์ด้านความปลอดภัยพบว่า สัญญาณเตือนอาจกระจายอยู่ในหลายข้อความ เช่น ผู้ใช้อาจเริ่มต้นด้วยการพูดถึงความเครียด ความเหนื่อยล้า หรือปัญหาชีวิต ก่อนจะค่อย ๆ เปิดเผยความทุกข์ทางอารมณ์ที่รุนแรงกว่าในภายหลัง
คนยังถาม คำตอบสั้น ๆ สำหรับ "ChatGPT ใช้ “Safety Summaries” ตรวจจับความเสี่ยงที่ค่อย ๆ เพิ่มขึ้นระหว่างบทสนทนาได้อย่างไร" คืออะไร OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว
ประเด็นสำคัญที่ต้องตรวจสอบก่อนคืออะไร? OpenAI เพิ่มระบบ “safety summaries” แบบชั่วคราว เพื่อให้ ChatGPT มองเห็นสัญญาณความเสี่ยงที่ค่อย ๆ ปรากฏตลอดการสนทนา ไม่ใช่แค่ในข้อความเดียว สรุปความปลอดภัยจะเก็บเฉพาะข้อมูลที่เกี่ยวกับความเสี่ยง เช่น สัญญาณการทำร้ายตัวเอง ความทุกข์ทางอารมณ์ หรือความรุนแรง
ฉันควรทำอย่างไรต่อไปในทางปฏิบัติ? การอัปเดตนี้พัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน เพื่อปรับปรุงการตอบสนองของ AI ในบทสนทนาที่ละเอียดอ่อน
หาก AI ไม่สามารถเชื่อมโยงบริบทก่อนหน้าได้ ระบบอาจตีความข้อความภายหลังผิด หรือไม่เห็นว่าความเสี่ยงกำลังเพิ่มขึ้น
ดังนั้น OpenAI จึงพยายามปรับระบบให้ ประเมินความปลอดภัยในระดับทั้งบทสนทนา แทนที่จะดูเพียงข้อความเดียว
“Safety Summaries” คืออะไร Safety summaries คือ บันทึกสั้น ๆ ที่ระบบสร้างขึ้นโดยอัตโนมัติ ระหว่างการสนทนาบางประเภท เพื่อเก็บข้อมูลที่เกี่ยวข้องกับความปลอดภัย
แทนที่จะเก็บบทสนทนาทั้งหมด ระบบจะบันทึกเฉพาะสัญญาณที่อาจเกี่ยวข้องกับความเสี่ยง เช่น ระดับความทุกข์ทางอารมณ์หรือพฤติกรรมที่น่ากังวล
จุดสำคัญของระบบนี้ ได้แก่
ขอบเขตจำกัด: บันทึกเฉพาะข้อมูลที่เกี่ยวกับความปลอดภัย ไม่ใช่บทสนทนาทั้งหมด บริบทชั่วคราว: ใช้เป็นบริบทระยะสั้น ไม่ใช่หน่วยความจำถาวรหรือระบบปรับแต่งเฉพาะบุคคล ตรวจจับรูปแบบความเสี่ยง: ช่วยให้ AI มองเห็นสัญญาณที่ค่อย ๆ เพิ่มขึ้นในหลายข้อความ แนวคิดหลักคือเก็บข้อมูลเท่าที่จำเป็นสำหรับการประเมินความเสี่ยง โดยไม่ต้องเก็บประวัติการสนทนาเต็มรูปแบบเพื่อวัตถุประสงค์นี้
ระบบนี้ถูกใช้เมื่อใด ChatGPT จะสร้าง safety summary ในบทสนทนาที่ระบบตรวจพบ สัญญาณของความเสี่ยงที่อาจเพิ่มขึ้น
สถานการณ์ที่อาจกระตุ้นให้ระบบใช้งานฟีเจอร์นี้ เช่น
การพูดถึงการฆ่าตัวตายหรือการทำร้ายตัวเอง
สัญญาณของความทุกข์ทางอารมณ์หรือวิกฤตสุขภาพจิต
ความตั้งใจทำอันตรายที่เพิ่มขึ้น
ความเป็นไปได้ของความรุนแรง
เมื่อมีสัญญาณเหล่านี้ ระบบสามารถอ้างอิง summary เพื่อเข้าใจภาพรวมของบทสนทนา และเลือกวิธีตอบที่ปลอดภัยมากขึ้น
ความเสี่ยงที่ระบบออกแบบมาเพื่อรับมือ การอัปเดตนี้เน้นที่ ความปลอดภัยด้านสุขภาพจิตและสถานการณ์วิกฤต เป็นหลัก
เป้าหมายของ OpenAI คือช่วยให้ ChatGPT
ตรวจจับสัญญาณของความทุกข์ทางอารมณ์
ลดความตึงเครียดของบทสนทนา (de‑escalation)
แนะนำให้ผู้ใช้ติดต่อความช่วยเหลือในโลกจริงเมื่อเหมาะสม
การพัฒนาระบบนี้ทำร่วมกับ ผู้เชี่ยวชาญด้านสุขภาพจิตมากกว่า 170 คน เพื่อกำหนดแนวทางการตอบสนองที่เหมาะสมในสถานการณ์ที่ละเอียดอ่อนหรือเปราะบาง
นอกจากนี้ มาตรการป้องกันยังมุ่งลดความเสี่ยงจากการโต้ตอบกับ AI เป็นเวลานาน เช่น
การพูดคุยเกี่ยวกับการทำร้ายตัวเอง
การพึ่งพา AI ทางอารมณ์มากเกินไป
บทสนทนาที่อาจพัฒนาไปสู่การกระทำที่เป็นอันตราย
หลักฐานเกี่ยวกับการปรับปรุงความปลอดภัย OpenAI ระบุว่าการอัปเดตโมเดลเริ่มต้นของ ChatGPT ทำให้ระบบสามารถ ตรวจจับและตอบสนองต่อความทุกข์ทางอารมณ์ได้ดีขึ้น
รายงานบางฉบับระบุว่า การพัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตช่วยลดคำตอบที่ไม่ปลอดภัยในการทดสอบได้อย่างมีนัยสำคัญ โดยมีรายงานว่าการตอบที่ไม่เหมาะสมลดลงประมาณ 65–80% ในสภาพแวดล้อมการทดสอบบางกรณี
อย่างไรก็ตาม รายละเอียดเชิงเทคนิค เช่น วิธีการประเมินหรือชุดข้อมูลทดสอบ ยังไม่ได้เปิดเผยทั้งหมดในรายงานสรุปสาธารณะ ทำให้ขนาดของการปรับปรุงจริงยังไม่โปร่งใสทั้งหมด
ทำไมเรื่องนี้สำคัญสำหรับโรงเรียนและองค์กร สำหรับโรงเรียน มหาวิทยาลัย และแพลตฟอร์มการศึกษา ความท้าทายสำคัญคือ ความเสี่ยงของผู้เรียนมักไม่ปรากฏในข้อความเดียว
นักเรียนจำนวนมากอาจพูดคุยกับ AI เป็นเวลานาน และสัญญาณของความเครียดหรือพฤติกรรมเสี่ยงอาจค่อย ๆ ปรากฏขึ้น
ระบบความปลอดภัยที่มองเห็นบริบทของทั้งบทสนทนาอาจช่วยตรวจจับ
ความทุกข์ทางอารมณ์ที่เพิ่มขึ้น
สัญญาณการทำร้ายตัวเอง
ความตั้งใจทำอันตรายที่กำลังก่อตัว
ความสามารถนี้อาจช่วยลดโอกาสที่ AI จะตอบสนองอย่างไม่ปลอดภัยในบทสนทนายาว ๆ ซึ่งเป็นจุดอ่อนของแชตบอตในอดีต
อย่างไรก็ตาม ระบบ AI ไม่สามารถแทนที่มาตรการดูแลความปลอดภัยของมนุษย์ได้ โรงเรียนและองค์กรยังต้องมีนโยบาย การฝึกอบรมบุคลากร และช่องทางช่วยเหลือจริงสำหรับผู้ที่อาจกำลังเผชิญวิกฤต
การเปลี่ยนแปลงที่สะท้อนแนวโน้มใหญ่ของ AI การใช้ safety summaries สะท้อนการเปลี่ยนแปลงสำคัญในแนวคิดด้านความปลอดภัยของ AI
แทนที่จะวิเคราะห์ข้อความแบบแยกส่วน นักพัฒนากำลังสร้างระบบที่สามารถ วิเคราะห์รูปแบบความเสี่ยงตลอดทั้งบทสนทนา ซึ่งสอดคล้องกับวิธีที่มนุษย์สื่อสารและวิธีที่ปัญหามักเกิดขึ้นจริง
OpenAI ระบุว่ากระบวนการความปลอดภัยของบริษัทครอบคลุมหลายขั้นตอน ตั้งแต่การฝึกโมเดล การทดสอบก่อนเปิดใช้งาน ไปจนถึงการติดตามและปรับปรุงระบบหลังเปิดใช้งาน
เมื่อ AI กลายเป็นส่วนหนึ่งของการศึกษา การทำงาน และชีวิตประจำวันมากขึ้น ความสามารถในการตรวจจับสัญญาณความเสี่ยงที่ค่อย ๆ เกิดขึ้นในบทสนทนาระยะยาวอาจกลายเป็นองค์ประกอบสำคัญของการใช้งาน AI อย่างรับผิดชอบ
cdn.openai.com
[PDF] Addendum to GPT-5 System Card: Sensitive Conversations | OpenAI
หาก AI ไม่สามารถเชื่อมโยงบริบทก่อนหน้าได้ ระบบอาจตีความข้อความภายหลังผิด หรือไม่เห็นว่าความเสี่ยงกำลังเพิ่มขึ้น
ดังนั้น OpenAI จึงพยายามปรับระบบให้ ประเมินความปลอดภัยในระดับทั้งบทสนทนา แทนที่จะดูเพียงข้อความเดียว
“Safety Summaries” คืออะไร Safety summaries คือ บันทึกสั้น ๆ ที่ระบบสร้างขึ้นโดยอัตโนมัติ ระหว่างการสนทนาบางประเภท เพื่อเก็บข้อมูลที่เกี่ยวข้องกับความปลอดภัย
แทนที่จะเก็บบทสนทนาทั้งหมด ระบบจะบันทึกเฉพาะสัญญาณที่อาจเกี่ยวข้องกับความเสี่ยง เช่น ระดับความทุกข์ทางอารมณ์หรือพฤติกรรมที่น่ากังวล
จุดสำคัญของระบบนี้ ได้แก่
ขอบเขตจำกัด: บันทึกเฉพาะข้อมูลที่เกี่ยวกับความปลอดภัย ไม่ใช่บทสนทนาทั้งหมด บริบทชั่วคราว: ใช้เป็นบริบทระยะสั้น ไม่ใช่หน่วยความจำถาวรหรือระบบปรับแต่งเฉพาะบุคคล ตรวจจับรูปแบบความเสี่ยง: ช่วยให้ AI มองเห็นสัญญาณที่ค่อย ๆ เพิ่มขึ้นในหลายข้อความ แนวคิดหลักคือเก็บข้อมูลเท่าที่จำเป็นสำหรับการประเมินความเสี่ยง โดยไม่ต้องเก็บประวัติการสนทนาเต็มรูปแบบเพื่อวัตถุประสงค์นี้
ระบบนี้ถูกใช้เมื่อใด ChatGPT จะสร้าง safety summary ในบทสนทนาที่ระบบตรวจพบ สัญญาณของความเสี่ยงที่อาจเพิ่มขึ้น
สถานการณ์ที่อาจกระตุ้นให้ระบบใช้งานฟีเจอร์นี้ เช่น
การพูดถึงการฆ่าตัวตายหรือการทำร้ายตัวเอง
สัญญาณของความทุกข์ทางอารมณ์หรือวิกฤตสุขภาพจิต
ความตั้งใจทำอันตรายที่เพิ่มขึ้น
ความเป็นไปได้ของความรุนแรง
เมื่อมีสัญญาณเหล่านี้ ระบบสามารถอ้างอิง summary เพื่อเข้าใจภาพรวมของบทสนทนา และเลือกวิธีตอบที่ปลอดภัยมากขึ้น
ความเสี่ยงที่ระบบออกแบบมาเพื่อรับมือ การอัปเดตนี้เน้นที่ ความปลอดภัยด้านสุขภาพจิตและสถานการณ์วิกฤต เป็นหลัก
เป้าหมายของ OpenAI คือช่วยให้ ChatGPT
ตรวจจับสัญญาณของความทุกข์ทางอารมณ์
ลดความตึงเครียดของบทสนทนา (de‑escalation)
แนะนำให้ผู้ใช้ติดต่อความช่วยเหลือในโลกจริงเมื่อเหมาะสม
การพัฒนาระบบนี้ทำร่วมกับ ผู้เชี่ยวชาญด้านสุขภาพจิตมากกว่า 170 คน เพื่อกำหนดแนวทางการตอบสนองที่เหมาะสมในสถานการณ์ที่ละเอียดอ่อนหรือเปราะบาง
นอกจากนี้ มาตรการป้องกันยังมุ่งลดความเสี่ยงจากการโต้ตอบกับ AI เป็นเวลานาน เช่น
การพูดคุยเกี่ยวกับการทำร้ายตัวเอง
การพึ่งพา AI ทางอารมณ์มากเกินไป
บทสนทนาที่อาจพัฒนาไปสู่การกระทำที่เป็นอันตราย
หลักฐานเกี่ยวกับการปรับปรุงความปลอดภัย OpenAI ระบุว่าการอัปเดตโมเดลเริ่มต้นของ ChatGPT ทำให้ระบบสามารถ ตรวจจับและตอบสนองต่อความทุกข์ทางอารมณ์ได้ดีขึ้น
รายงานบางฉบับระบุว่า การพัฒนาร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตช่วยลดคำตอบที่ไม่ปลอดภัยในการทดสอบได้อย่างมีนัยสำคัญ โดยมีรายงานว่าการตอบที่ไม่เหมาะสมลดลงประมาณ 65–80% ในสภาพแวดล้อมการทดสอบบางกรณี
อย่างไรก็ตาม รายละเอียดเชิงเทคนิค เช่น วิธีการประเมินหรือชุดข้อมูลทดสอบ ยังไม่ได้เปิดเผยทั้งหมดในรายงานสรุปสาธารณะ ทำให้ขนาดของการปรับปรุงจริงยังไม่โปร่งใสทั้งหมด
ทำไมเรื่องนี้สำคัญสำหรับโรงเรียนและองค์กร สำหรับโรงเรียน มหาวิทยาลัย และแพลตฟอร์มการศึกษา ความท้าทายสำคัญคือ ความเสี่ยงของผู้เรียนมักไม่ปรากฏในข้อความเดียว
นักเรียนจำนวนมากอาจพูดคุยกับ AI เป็นเวลานาน และสัญญาณของความเครียดหรือพฤติกรรมเสี่ยงอาจค่อย ๆ ปรากฏขึ้น
ระบบความปลอดภัยที่มองเห็นบริบทของทั้งบทสนทนาอาจช่วยตรวจจับ
ความทุกข์ทางอารมณ์ที่เพิ่มขึ้น
สัญญาณการทำร้ายตัวเอง
ความตั้งใจทำอันตรายที่กำลังก่อตัว
ความสามารถนี้อาจช่วยลดโอกาสที่ AI จะตอบสนองอย่างไม่ปลอดภัยในบทสนทนายาว ๆ ซึ่งเป็นจุดอ่อนของแชตบอตในอดีต
อย่างไรก็ตาม ระบบ AI ไม่สามารถแทนที่มาตรการดูแลความปลอดภัยของมนุษย์ได้ โรงเรียนและองค์กรยังต้องมีนโยบาย การฝึกอบรมบุคลากร และช่องทางช่วยเหลือจริงสำหรับผู้ที่อาจกำลังเผชิญวิกฤต
การเปลี่ยนแปลงที่สะท้อนแนวโน้มใหญ่ของ AI การใช้ safety summaries สะท้อนการเปลี่ยนแปลงสำคัญในแนวคิดด้านความปลอดภัยของ AI
แทนที่จะวิเคราะห์ข้อความแบบแยกส่วน นักพัฒนากำลังสร้างระบบที่สามารถ วิเคราะห์รูปแบบความเสี่ยงตลอดทั้งบทสนทนา ซึ่งสอดคล้องกับวิธีที่มนุษย์สื่อสารและวิธีที่ปัญหามักเกิดขึ้นจริง
OpenAI ระบุว่ากระบวนการความปลอดภัยของบริษัทครอบคลุมหลายขั้นตอน ตั้งแต่การฝึกโมเดล การทดสอบก่อนเปิดใช้งาน ไปจนถึงการติดตามและปรับปรุงระบบหลังเปิดใช้งาน
เมื่อ AI กลายเป็นส่วนหนึ่งของการศึกษา การทำงาน และชีวิตประจำวันมากขึ้น ความสามารถในการตรวจจับสัญญาณความเสี่ยงที่ค่อย ๆ เกิดขึ้นในบทสนทนาระยะยาวอาจกลายเป็นองค์ประกอบสำคัญของการใช้งาน AI อย่างรับผิดชอบ
cdn.openai.com
[PDF] Addendum to GPT-5 System Card: Sensitive Conversations | OpenAI
