Trusted Contact 是 OpenAI 加强 ChatGPT 敏感心理健康对话应对能力的一部分。OpenAI 称,其安全措施包括训练模型不要提供自伤方法说明,转向更支持、共情的回应,并在适当时候引导用户寻找危机资源。
OpenAI 还表示,曾与 170 多名心理健康专家合作,以改进 ChatGPT 识别痛苦信号、谨慎回应并引导人们获得现实世界支持的能力。在这个背景下,Trusted Contact 的变化不只是在聊天框里给出一句回应,而是尝试让用户提前选定的人有机会注意到情况并主动联系
。
因此,联系人是否合适很重要。理想情况下,这个人应当是用户真正信任、愿意在紧急或脆弱时刻被联系,并且有能力及时做出回应的人。
同时,Trusted Contact 不应被理解为紧急救助的替代品。OpenAI 对 ChatGPT 的定位,是识别痛苦信号、谨慎回应,并把人引向现实支持和危机资源。如果已经存在即时危险,应优先联系当地紧急救援、危机热线或身边可信赖的人,而不是等待聊天机器人的通知。
但这些信息并未提供独立的真实世界效果数据,也不能证明 Trusted Contact 已经能在实际使用中降低伤害风险。
Trusted Contact 是 OpenAI 为成年 ChatGPT 用户提供的一项自愿安全功能:用户可以提前指定一位可信联系人;当对话出现可能的自伤或自杀风险时,ChatGPT 可鼓励用户联系对方,并可能发送自动提醒,请对方主动关心用户。它为 OpenAI 现有危机应对措施增加了一层真人支持,但不能替代专业帮助或紧急服务
。