Trusted Contact ของ OpenAI: ChatGPT แจ้งคนที่คุณไว้ใจได้อย่างไร

ลำดับการทำงานของการแจ้งเตือน

โดยสรุป กลไกที่รายงานไว้มี 3 ขั้นตอน:

1. ผู้ใช้ต้องเปิดใช้ก่อน — ผู้ใช้ที่เป็นผู้ใหญ่เลือกบุคคลที่ไว้ใจได้ไว้ล่วงหน้า ไม่ใช่ระบบที่ถูกเปิดให้ทุกคนโดยอัตโนมัติ .
2. ระบบพบสัญญาณเสี่ยงในบทสนทนา — มาตรการนี้ผูกกับสถานการณ์ที่ ChatGPT ตรวจพบความเป็นไปได้ของแนวคิดทำร้ายตัวเองหรือฆ่าตัวตาย .
3. ระบบอาจกระตุ้นการเช็กอิน — ChatGPT สามารถชวนผู้ใช้ให้ติดต่อผู้ติดต่อที่เลือกไว้ และส่งการแจ้งเตือนอัตโนมัติให้ผู้ติดต่อคนนั้นเข้ามาเช็กอิน .

รายงานการเปิดตัวอธิบายการแจ้งเตือนนี้ในฐานะคำขอให้เช็กอิน ไม่ได้ระบุว่าผู้ติดต่อที่เลือกไว้จะกลายเป็นเจ้าหน้าที่รับมือวิกฤต แพทย์ นักบำบัด หรือบริการฉุกเฉิน .

ทำไม OpenAI ถึงเพิ่มชั้นนี้

Trusted Contact อยู่ในภาพใหญ่ของความพยายามของ OpenAI ที่จะทำให้ ChatGPT ตอบสนองต่อบทสนทนาด้านสุขภาพจิตที่ละเอียดอ่อนได้ปลอดภัยขึ้น OpenAI ระบุว่ามาตรการป้องกันของตนรวมถึงการฝึกโมเดลไม่ให้ให้คำแนะนำเกี่ยวกับการทำร้ายตัวเอง ปรับคำตอบไปสู่ภาษาที่สนับสนุนและเห็นอกเห็นใจ และชี้ผู้ใช้ไปยังแหล่งช่วยเหลือด้านวิกฤตเมื่อเหมาะสม .

OpenAI ยังระบุว่าได้ทำงานร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตมากกว่า 170 คน เพื่อช่วยให้ ChatGPT จับสัญญาณความทุกข์ใจได้ดีขึ้น ตอบอย่างระมัดระวัง และพาผู้ใช้ไปสู่ความช่วยเหลือในโลกจริง . ในบริบทนั้น Trusted Contact เป็นก้าวที่ออกไปไกลกว่าคำตอบของแชตบอต เพราะสร้างทางให้คนที่ผู้ใช้เลือกไว้ล่วงหน้าได้รับสัญญาณและเข้ามาเช็กอิน .

ก่อนเปิดใช้ ควรรู้อะไรบ้าง

ประเด็นสำคัญที่สุดคือ ความยินยอม: Trusted Contact เป็นฟีเจอร์แบบ opt-in หรือเปิดใช้ด้วยความสมัครใจ และผู้ใช้ต้องเป็นคนเลือกผู้ติดต่อก่อน . ดังนั้นควรเลือกคนที่เหมาะสม ไว้ใจได้ และมีโอกาสตอบสนองได้จริงหากได้รับการแจ้งเตือนเช็กอิน

อีกเรื่องที่ควรเข้าใจให้ชัดคือ ฟีเจอร์นี้เป็นสัญญาณความปลอดภัย ไม่ใช่ตัวแทนของความช่วยเหลือฉุกเฉิน เอกสารด้านความปลอดภัยของ OpenAI วางบทบาทของ ChatGPT ไว้ที่การรับรู้สัญญาณความทุกข์ใจ ตอบอย่างระมัดระวัง และนำผู้ใช้ไปยังการสนับสนุนหรือแหล่งช่วยเหลือด้านวิกฤตในโลกจริง . หากมีอันตรายเฉียบพลัน ควรติดต่อบริการฉุกเฉินหรือแหล่งช่วยเหลือในพื้นที่ทันที แทนที่จะรอการแจ้งเตือนจากแชตบอต

สิ่งที่ยังไม่ชัดเจน

ข้อมูลการเปิดตัวที่อ้างถึงอธิบายกลไกหลักว่า ผู้ใช้ผู้ใหญ่เปิดใช้ฟีเจอร์ เลือกผู้ติดต่อไว้ล่วงหน้า ระบบตรวจพบสัญญาณเสี่ยง และอาจส่งแจ้งเตือนอัตโนมัติให้ผู้ติดต่อมาเช็กอิน . แต่ยังไม่มีข้อมูลผลลัพธ์อิสระที่แสดงว่า Trusted Contact ลดอันตรายในการใช้งานจริงได้มากน้อยเพียงใด

รายงานที่มีอยู่ยังระบุเพียงว่าผู้ติดต่อจะได้รับการแจ้งเตือนอัตโนมัติให้เช็กอิน ไม่ได้แจกแจงเนื้อหาทั้งหมดของการแจ้งเตือน หรือระบุชัดว่ามีการแชร์ข้อความบางส่วนจากบทสนทนาหรือไม่ . ผู้ใช้ที่สนใจจึงควรตรวจสอบขั้นตอนในผลิตภัณฑ์และรายละเอียดความเป็นส่วนตัวล่าสุดก่อนเปิดใช้

สรุป

Trusted Contact คือฟีเจอร์ความปลอดภัยแบบสมัครใจของ OpenAI สำหรับผู้ใช้ ChatGPT ที่เป็นผู้ใหญ่ ซึ่งต้องการให้มีคนที่เลือกไว้ล่วงหน้าเข้ามาเช็กอินในสถานการณ์ที่บทสนทนาอาจเกี่ยวข้องกับการทำร้ายตัวเองหรือการฆ่าตัวตาย หากเปิดใช้ ChatGPT อาจชวนผู้ใช้ติดต่อคนนั้น และส่งแจ้งเตือนอัตโนมัติให้ผู้ติดต่อมาเช็กอิน เป็นการเพิ่มชั้นสนับสนุนจากมนุษย์บนมาตรการรับมือวิกฤตที่มีอยู่ของ OpenAI .