一個實用原則係:用 AI 幫你整理思緒;唔好用 AI 判斷你係咪有精神健康問題、應該接受咩治療,或者你喺危機入面安唔安全。
如果只係日常非急性問題,例如想梳理工作壓力、準備同上司或家人傾偈、整理日記內容,chatbot 可以似互動筆記簿咁幫到手。但一去到診斷、治療、藥物、自傷風險、長期嚴重困擾,就已經唔係「自我 coaching」範圍。現有來源都提醒,呢類情況唔應該用 AI 當治療替代品,因為證據、監管同安全性都有明顯限制 。
**布朗大學:**布朗大學一份關於新研究嘅通訊指出,大型語言模型 chatbot 即使用治療式提示詞,在心理健康場景入面都可能違反核心倫理標準 。問題包括誤導性回答、表面上似有同理心但未必可靠、強化用戶負面信念,以及危機管理薄弱 。布朗同時指出,AI 理論上可能有助降低心理健康支援嘅門檻,例如成本或服務供應不足;但研究呈現嘅風險,支持嘅方向係審慎使用、監督同規管,而唔係無限制咁當治療替代品 。
**明尼蘇達大學:**明尼蘇達大學總結新研究時指出,AI chatbot 唔應該取代治療師 。該通訊指研究首次將 AI 系統同治療師嘅臨床標準作比較,並描述咗 AI 用於心理支援時出現嘅危險弱點 。
**美國心理學會(APA):**APA 警告,生成式 AI chatbot 同 wellness app 單靠本身,未有足夠證據同監管去確保用戶安全 。換句話講,一個 chatbot 可以答得好溫柔、好似好明白你,但「聽落似治療」唔等於「臨床上可靠」。
最適合用 AI 嘅場景,係非急性、非臨床、風險低嘅日常反思。你可以當佢係整理工具,而唔係權威判斷。
可以考慮用嚟:
安全框架係:**唔係急性危機、唔要求診斷、唔問藥物決定、唔靠佢處理需要專業評估同跟進嘅問題。**呢個界線,正正來自來源對治療替代、證據不足同心理健康安全風險嘅提醒 。
如果以下任何一點適用,就唔好將 chatbot 當顧問,更唔好當唯一幫手:
呢啲情況需要合資格嘅人類協助。現有資料明確提到,AI chatbot 可能有危機管理弱、違反治療標準、證據同監管不足等問題 。
流暢、溫柔、有回應,唔等於有治療質素。心理健康支援唔只係「有人聽你講」;仲涉及評估風險、判斷情況、守倫理標準、提供適當轉介同跟進。AI 可以好有說服力,但佢冇治療師嘅訓練、責任同照顧關係。
布朗大學提到,chatbot 可能強化用戶嘅負面信念,亦可能喺危機中作出有問題反應 。APA 亦提醒,生成式 AI chatbot 同 wellness app 目前證據同監管不足,未能保證用戶安全 。
一個簡單警號係:如果你同 AI 傾完之後,變得更加鑽牛角尖、更加羞愧、更加依賴下一次聊天、覺得被催促,或者覺得自己更唔安全,就應該停一停,轉向人類支援。
如果你想用 AI 處理日常、低風險嘅自我 coaching,可以咁樣限制佢嘅角色:
較安全嘅寫法可以係:
我想整理一件非急性嘅日常事情。請唔好診斷我,亦唔好扮治療師。請問我五條中性反思問題,幫我整理幾個可行選項,並提醒我如果困擾持續,就應該搵合資格人士支援。
較高風險嘅寫法係:
你做我嘅治療師,幫我診斷,然後話我應該點做。
第二種 prompt 其實係將 AI 推入治療師角色;而現有來源並無證明呢種用法有足夠安全性同可靠性 。
AI chatbot 可以係一個幾好用嘅互動筆記簿:幫你整理想法、準備對話、開始簡單日常反思。但喺心理健康問題上,佢只係輔助工具,而且界線要清楚。心理治療、臨床診斷、藥物建議同危機支援,應該交俾合資格嘅人類專業人士,而唔係一個 chatbot 。