**Brown University:**Brown University发布的研究报道指出,大语言模型(LLM)聊天机器人即使被要求使用“治疗式”提示词,在心理健康场景中仍可能违反关键伦理标准 。报道列举的问题包括误导性回答、看似共情但并不可靠的回应、强化负面信念,以及危机管理能力不足
。Brown也承认AI未来可能有潜力降低费用、服务可及性不足等门槛;但这些风险更支持谨慎使用、监督和监管,而不是把AI不受控制地当成治疗替代品
。
**University of Minnesota:**University of Minnesota对新研究的介绍称,AI聊天机器人不应替代治疗师 。该介绍提到,研究人员首次将AI系统与治疗师的临床标准进行比较,并指出AI用于心理支持时存在危险短板
。
**美国心理学会(APA):**APA警告,生成式AI聊天机器人和健康类应用目前缺乏足够证据和监管,无法确保用户安全 。换句话说,一个机器人说话温柔、条理清楚、像是在理解你,并不等于它具备临床可靠性
。
比较适合使用AI的,是那些不紧急、不涉及诊断和治疗决策的日常自我整理。此时应把它当作结构化工具,而不是权威顾问。
可以考虑让AI做这些事:
如果出现以下任一情况,不要依赖聊天机器人作为顾问,更不要把它当作唯一帮助:
聊天机器人最大的迷惑性之一,是它可以说得非常流畅、耐心、温柔。可在心理健康问题上,会安慰人不等于会治疗人。
真正的心理治疗不只是“说几句支持的话”。专业人员需要评估风险、识别复杂症状、考虑来访者背景、遵守伦理与保密规范,并在必要时启动危机干预或转介。AI没有同等的训练、责任和持续照护能力。Brown University报道,聊天机器人可能强化用户的负面信念,也可能在危机中作出问题回应 。APA也提醒,生成式AI聊天机器人和健康类应用的证据与监管不足以确保用户安全
。
一个值得警惕的信号是:如果你和AI聊完后更陷入反刍、更羞耻、更依赖下一轮对话、更焦虑或更不安全,就应该停止继续聊,并转向人类支持。
如果你只是想处理低风险的日常自我反思,可以给AI设定明确角色:
相对安全的日常自我反思提示词,可以是:
我想整理一个不紧急的日常困扰,不需要诊断,也不需要治疗建议。请给我五个中性的反思问题,帮我总结可选行动,并提醒我如果痛苦持续,应寻求合格专业支持。
比较危险的提示词是:
你来当我的治疗师,诊断我有什么问题,并告诉我必须怎么做。