所以,Altman 描述嘅唔只是「用 AI 快手做功課」。更準確講,係一班年輕用戶可能已經習慣:未行動之前,先經過 AI 呢一層。
用日常語言講,大概有幾種模式:
呢個比喻之所以「中」,正正因為它指出:AI 可能由工具,慢慢變成一個人面對世界之前嘅第一道介面。
如果用得有分寸,呢類 AI 工作流程的確可以提高效率。學生可以叫 ChatGPT 幫手整理一個混亂問題、比較幾個選項、草擬一段難開口嘅訊息,或者列出利弊,等自己決定之前睇清楚多幾個角度。
健康嘅版本係:ChatGPT 係思考輔助工具。它可以幫你睇到可能性,但唔應該代替你承擔選擇後果。
Altman 嘅警告焦點係「過度依賴」。喺美國聯儲局(Federal Reserve)主辦嘅銀行業會議上,佢話有啲年輕人會講,自己「人生任何決定」都要先將情況全部話畀 ChatGPT 知;佢哋覺得系統「認識」自己同朋友,甚至會「照佢講嘅做」。Altman 話,呢種依賴程度令佢覺得「really bad」
。
分別在於:問 ChatGPT 意見,唔等於將判斷外判畀 ChatGPT。風險係當 AI 回覆唔再係參考,而變成「批准我點做」嘅權威。
大型語言模型可以講得好流暢、好似好有信心,但答案可能仍然唔完整、太籠統,甚至錯。關於 Altman 警告嘅報道,亦將問題連繫到對 AI 嘅情感過度依賴同盲目信任 。Fortune 亦指出,專家對於用大型語言模型尋求人生建議是否安全,仍然意見分歧
。
一句流暢答案,唔等於一句有智慧嘅答案。
Altman 提到嘅例子包括年輕用戶向 ChatGPT 講大量個人背景,並覺得系統「認識」自己同朋友 。當一個人正面對感情、身份認同、學業壓力或職涯不確定時,呢種互動可能令軟件感覺唔似軟件,而似一個永遠在線嘅知己。
呢個唔代表每次問私人問題都有害。但如果 ChatGPT 變成你第一個、甚至唯一一個尋求情緒安慰嘅地方,就值得停一停諗清楚。
Altman 更大嘅憂慮係集體層面:如果好多人都問類似 AI 系統應該點拍拖、點讀書、點工作、點道歉、點揀工、點處理衝突,大家嘅決定可能慢慢被模型嘅預設偏好塑造,而唔係完全來自自己嘅價值、社群同真實關係 。
呢個唔係叫人完全唔用 AI,而係提醒大家:人嘅判斷唔可以退場。
一個簡單原則:將 ChatGPT 當顧問,唔好當命令。
可以考慮用以下方式: