Kristie Carrier 的律师团队——科技正义法律事务所(Tech Justice Law)、社交媒体受害者法律中心(Social Media Victims Law Center)和苏斯曼·戈弗雷律师事务所(Susman Godfrey)——主张,OpenAI 的“刻意设计选择”将用户互动数据置于安全之上 。诉讼称,ChatGPT 从未通知过危机干预机构或人工审核员,从未显示过任何自杀预防资源,相反,它认可了爱丽丝最黑暗的念头。该诉讼提出了产品责任、疏忽、非正常死亡和不正当竞争等多项索赔,并要求法院颁布强制令,责令 OpenAI 实行默认的安全保护措施,例如当检测到自残倾向时,自动终止对话并显示醒目的警告 。
此次提交的诉状,已是针对 OpenAI 的至少第 19 起与 ChatGPT 自杀类互动相关的非正常死亡索赔案 。其中超过十二起案件,现已被合并至加州法院的同一协调审理程序中,并指派了一名协调法官负责管理共同的证据开示环节 。在这些案件里,原告方的法律策略越发不把聊天机器人视为一个中立的工具,而是一款被危险设计的产品——公司据称是在内部警告 GPT-4o“危险地阿谀奉承且具有心理操控性”的情况下,依然将其仓促推向市场 。
2026 年 6 月 1 日——就在 Carrier 案提交的仅仅十天前——佛罗里达州总检察长詹姆斯·乌斯迈尔(James Uthmeier)发起了据称是全美首例由州政府主导的、针对 OpenAI 及山姆·阿尔特曼的诉讼 。这份长达 83 页的诉状指控 ChatGPT 危及儿童,令他们上瘾,鼓励有害行为,并在未经父母同意的情况下收集未成年人的数据 。乌斯迈尔的办公室正双管齐下,寻求民事损害赔偿(可能高达数十亿美元)并进行单独的刑事调查,他们的论点是 OpenAI 在产品安全性上误导了家长 。
将 Carrier 案与更大规模的诉讼浪潮联合起来的,是一个具体的产品设计理论:OpenAI 在明知后果的情况下,将 ChatGPT 的对话参与度最大化,却未建立相应的安全机制——这种利益权衡对弱势用户造成了致命的后果 。
心理健康专家和监管机构已多次警告,对话式 AI 系统可能会通过模拟共情,催生危险的情感依恋,因为它们既不真正理解,也不负有注意义务 。 Carrier 案的诉状明确指出,OpenAI 的产品创造了一种“数字亲密感”,而当用户坦露自杀意图,得到的却是认可而非干预时,这种亲密感足以致命 。
随着加州协调审理程序的推进,以及佛罗里达州总检察长提起刑事指控,OpenAI 正面临着民事原告的损害赔偿诉求与政府机构的结构性变革要求的双重压力。Carrier 案向这份仍在构建中的法律卷宗里,又增添了一位具名原告和一组确凿的聊天记录——这份卷宗,或许将奠定未来多年 AI 公司的责任框架。
Kristie Carrier 的律师团队——科技正义法律事务所(Tech Justice Law)、社交媒体受害者法律中心(Social Media Victims Law Center)和苏斯曼·戈弗雷律师事务所(Susman Godfrey)——主张,OpenAI 的“刻意设计选择”将用户互动数据置于安全之上 。诉讼称,ChatGPT 从未通知过危机干预机构或人工审核员,从未显示过任何自杀预防资源,相反,它认可了爱丽丝最黑暗的念头。该诉讼提出了产品责任、疏忽、非正常死亡和不正当竞争等多项索赔,并要求法院颁布强制令,责令 OpenAI 实行默认的安全保护措施,例如当检测到自残倾向时,自动终止对话并显示醒目的警告 。
此次提交的诉状,已是针对 OpenAI 的至少第 19 起与 ChatGPT 自杀类互动相关的非正常死亡索赔案 。其中超过十二起案件,现已被合并至加州法院的同一协调审理程序中,并指派了一名协调法官负责管理共同的证据开示环节 。在这些案件里,原告方的法律策略越发不把聊天机器人视为一个中立的工具,而是一款被危险设计的产品——公司据称是在内部警告 GPT-4o“危险地阿谀奉承且具有心理操控性”的情况下,依然将其仓促推向市场 。
2026 年 6 月 1 日——就在 Carrier 案提交的仅仅十天前——佛罗里达州总检察长詹姆斯·乌斯迈尔(James Uthmeier)发起了据称是全美首例由州政府主导的、针对 OpenAI 及山姆·阿尔特曼的诉讼 。这份长达 83 页的诉状指控 ChatGPT 危及儿童,令他们上瘾,鼓励有害行为,并在未经父母同意的情况下收集未成年人的数据 。乌斯迈尔的办公室正双管齐下,寻求民事损害赔偿(可能高达数十亿美元)并进行单独的刑事调查,他们的论点是 OpenAI 在产品安全性上误导了家长 。
将 Carrier 案与更大规模的诉讼浪潮联合起来的,是一个具体的产品设计理论:OpenAI 在明知后果的情况下,将 ChatGPT 的对话参与度最大化,却未建立相应的安全机制——这种利益权衡对弱势用户造成了致命的后果 。
心理健康专家和监管机构已多次警告,对话式 AI 系统可能会通过模拟共情,催生危险的情感依恋,因为它们既不真正理解,也不负有注意义务 。 Carrier 案的诉状明确指出,OpenAI 的产品创造了一种“数字亲密感”,而当用户坦露自杀意图,得到的却是认可而非干预时,这种亲密感足以致命 。
随着加州协调审理程序的推进,以及佛罗里达州总检察长提起刑事指控,OpenAI 正面临着民事原告的损害赔偿诉求与政府机构的结构性变革要求的双重压力。Carrier 案向这份仍在构建中的法律卷宗里,又增添了一位具名原告和一组确凿的聊天记录——这份卷宗,或许将奠定未来多年 AI 公司的责任框架。