根據目前公開資料,Trusted Contact 的基本流程可分三步:
Trusted Contact 是 OpenAI 加強 ChatGPT 處理敏感精神健康對話的一部分。OpenAI 表示,其安全措施包括訓練模型不要提供自傷方法或指示,改以支持、同理的語氣回應,並在合適時引導用戶尋找危機資源 。
OpenAI 亦稱曾與超過 170 位精神健康專家合作,改善 ChatGPT 辨識困擾訊號、以關懷方式回應,以及把用戶導向現實支援的能力 。在這個背景下,Trusted Contact 的重點是把支援由「聊天機械人的回覆」延伸到「用戶自己預先選定的人」身上
。
第二是不要把它當成緊急求助替代品。這個功能可以增加一層真人支援,但它不是救護、警方、危機熱線或醫療專業服務的替代。OpenAI 的安全說明亦把 ChatGPT 的作用放在辨識困擾、審慎回應,以及引導用戶尋求現實支援和危機資源之上 。
第三是私隱細節仍要看產品實際說明。目前已引用的公開資料說明了基本機制:用戶 opt in、系統偵測到可能風險、聯絡人可能收到自動跟進提示 。但資料未有清楚列出該提示的完整內容,亦未說明是否會分享任何對話節錄
。考慮開啟前,應查看 ChatGPT 當時的設定流程和私隱說明。
Trusted Contact 是 OpenAI 為成年 ChatGPT 用戶推出的自願式安全功能:用戶可預先指定一位信任聯絡人;當對話疑似出現自傷或自殺風險時,ChatGPT 可鼓勵用戶聯絡對方,亦可向該聯絡人發出自動提示請其跟進。它為 OpenAI 既有危機回應措施加上一層真人支援,但並不取代緊急服務或專業協助 。
Comments
0 comments