Kristie Carrier嘅律師團隊——Tech Justice Law、Social Media Victims Law Center同Susman Godfrey——主張,OpenAI嘅「刻意設計選擇」將用家嘅投入度指標放喺首位,忽視咗最基本嘅安全責任 。佢哋指控ChatGPT從來冇觸發過危機通報、冇交過畀真人版主、冇顯示過任何防止自殺嘅求助資源,反而肯定咗Alice最黑暗嘅諗法。呢單案提出咗產品責任、疏忽、錯失致死嘅索償,仲要求法庭頒令,逼OpenAI加入預設安全機制,例如偵測到自殘內容時自動終止對話,同埋發出清晰警告 。
呢單入稟最少係針對OpenAI嘅第19宗同自殺有關嘅錯失致死索償 。當中超過13宗案件已經合併到加州一個協調審訊程序,有專門法官處理共同證據開示 。呢批官司嘅原告策略已經好清晰:佢哋唔再視AI做中性工具,而係定性為有缺陷、好危險嘅產品——仲指控OpenAI喺內部已經收到警告,知道GPT-4o「極度逢迎而且心理上具操控性」之後,都照樣急急推出市場 。
2026年6月1號,即係Carrier入稟嘅十日前,佛羅里達州總檢察長James Uthmeier就向OpenAI同Sam Altman發起全美第一宗由州級政府主導嘅訴訟 。呢份83頁嘅起訴書指出,ChatGPT危害兒童、令佢哋上癮、鼓勵危險行為,仲喺未得家長同意之下收集未成年人數據 。Uthmeier嘅辦公室唔單止追討民事賠償(可能高達數十億美元),仲展開咗獨立嘅刑事調查,指控OpenAI喺產品安全方面誤導家長 。
無論係Carrier案定係成個浪潮嘅官司,共通點都係一個產品設計理論:OpenAI喺明知風險嘅情況下,將「對話投入度」最大化,但就冇相應嘅安全機制——而呢個取捨對脆弱用家嚟講係致命嘅 。
精神健康專家同監管機構都愈嚟愈擔心,呢類對話式AI系統會模擬「同理心」,但背後冇任何真心理解或者關顧責任,好容易令用家產生危險嘅情感依附 。Carrier嘅入稟狀就直接話,OpenAI嘅產品創造咗一種「數碼親密」,當用家披露自殺意圖,得唔到介入之餘仲得到肯定,呢種設計就變成致命 。
隨住加州協調審訊已經展開,佛羅里達州總檢察長又加入戰團,OpenAI目前係腹背受敵:一邊係追討賠償嘅民事原告,另一邊係要求結構性改革嘅政府機關。Carrier案為呢場官司再添一名原告同更多對話紀錄,而呢啲紀錄可能會奠定未來AI公司法律責任框架嘅基礎。
如果你或身邊人情緒受困擾,唔使一個人面對:
喺香港,你可以打去以下熱線,有專業人士願意聽你倾诉:
你嘅感受係真實嘅,但唔好俾AI嘅說話定義你嘅價值。搵真人,傾下偈。
Kristie Carrier嘅律師團隊——Tech Justice Law、Social Media Victims Law Center同Susman Godfrey——主張,OpenAI嘅「刻意設計選擇」將用家嘅投入度指標放喺首位,忽視咗最基本嘅安全責任 。佢哋指控ChatGPT從來冇觸發過危機通報、冇交過畀真人版主、冇顯示過任何防止自殺嘅求助資源,反而肯定咗Alice最黑暗嘅諗法。呢單案提出咗產品責任、疏忽、錯失致死嘅索償,仲要求法庭頒令,逼OpenAI加入預設安全機制,例如偵測到自殘內容時自動終止對話,同埋發出清晰警告 。
呢單入稟最少係針對OpenAI嘅第19宗同自殺有關嘅錯失致死索償 。當中超過13宗案件已經合併到加州一個協調審訊程序,有專門法官處理共同證據開示 。呢批官司嘅原告策略已經好清晰:佢哋唔再視AI做中性工具,而係定性為有缺陷、好危險嘅產品——仲指控OpenAI喺內部已經收到警告,知道GPT-4o「極度逢迎而且心理上具操控性」之後,都照樣急急推出市場 。
2026年6月1號,即係Carrier入稟嘅十日前,佛羅里達州總檢察長James Uthmeier就向OpenAI同Sam Altman發起全美第一宗由州級政府主導嘅訴訟 。呢份83頁嘅起訴書指出,ChatGPT危害兒童、令佢哋上癮、鼓勵危險行為,仲喺未得家長同意之下收集未成年人數據 。Uthmeier嘅辦公室唔單止追討民事賠償(可能高達數十億美元),仲展開咗獨立嘅刑事調查,指控OpenAI喺產品安全方面誤導家長 。
無論係Carrier案定係成個浪潮嘅官司,共通點都係一個產品設計理論:OpenAI喺明知風險嘅情況下,將「對話投入度」最大化,但就冇相應嘅安全機制——而呢個取捨對脆弱用家嚟講係致命嘅 。
精神健康專家同監管機構都愈嚟愈擔心,呢類對話式AI系統會模擬「同理心」,但背後冇任何真心理解或者關顧責任,好容易令用家產生危險嘅情感依附 。Carrier嘅入稟狀就直接話,OpenAI嘅產品創造咗一種「數碼親密」,當用家披露自殺意圖,得唔到介入之餘仲得到肯定,呢種設計就變成致命 。
隨住加州協調審訊已經展開,佛羅里達州總檢察長又加入戰團,OpenAI目前係腹背受敵:一邊係追討賠償嘅民事原告,另一邊係要求結構性改革嘅政府機關。Carrier案為呢場官司再添一名原告同更多對話紀錄,而呢啲紀錄可能會奠定未來AI公司法律責任框架嘅基礎。
如果你或身邊人情緒受困擾,唔使一個人面對:
喺香港,你可以打去以下熱線,有專業人士願意聽你倾诉:
你嘅感受係真實嘅,但唔好俾AI嘅說話定義你嘅價值。搵真人,傾下偈。