AI聊天程式冇意識？神經科學家警告：你墮入咗「擬人化陷阱」

呢個唔係乜嘢哲學問題噃。作者話，AI系統愈似人，用戶就愈難分清乜嘢係「模擬」、乜嘢係「真係有感嘅」。

點解流利對話唔係意識嘅證據？

作者嘅核心論點建基於一個好穩固嘅神經科學原則：複雜、有目標、甚至識得回應情緒嘅行為，喺人類入面都可以完全喺冇意識嘅情況下發生。如果呢個情況喺生物系統入面係真嘅，咁冇理由喺電腦系統入面見到類似嘅表現，就要當佢係有意識 。

今日嘅大型語言模型（LLM）係透過從大量文本數據度學習統計模式，嚟生成上文下理合適嘅回應。佢哋唔會感受、理解或者體驗到自己生成嘅內容。無論佢哋嘅行為睇起嚟有幾聰明、有幾識得回應情緒，呢啲都唔足以證明佢哋有主觀體驗 。

呢個立場同科學界嘅共識一致。2025年《自然》（Nature）期刊嘅一項研究〈根本冇所謂有意識嘅人工智能〉（There is no such thing as conscious artificial intelligence）就話，將意識同而家嘅電腦算法掛鉤係「深層次嘅謬誤」，係源於缺乏技術知識 。同樣，2023年「意識科學會議」（Science of Consciousness）嘅分析都話，目前冇任何AI系統係有意識嘅 。

搞錯嘅實際風險

呢種混淆喺某啲情境下特別危險。例如當啲人用AI嚟做心理支援或者情感陪伴嘅時候，佢哋可能會對一個根本冇能力回應感情嘅系統產生情感依附 。

蒙特利爾大學同麥基爾大學健康中心（McGill University Health Centre）嘅博士後研究員Vanessa Hadid講得好直接：「風險唔單止係AI可能會回應得唔好，而係佢可能回應得夠好，好到我哋會忘記——答案嘅背後根本冇任何人」。

呢個唔係遙遠嘅憂慮。隨住AI聊天程式愈嚟愈多被用喺醫療、教育同客戶服務呢啲領域，用戶好可能會過度信任呢啲睇起嚟好似理解佢哋嘅系統。呢班神經科學家警告，呢種「被理解」嘅錯覺可能令人分享敏感資料、依賴錯誤嘅建議，或者延誤尋求真人幫助 。

總結：智能同意識係兩回事

呢個團隊嘅核心訊息好簡單，但係愈嚟愈重要：智能行為唔等於有意識。佢哋引用幾十年嘅神經科學研究——包括盲視呢種行為同意識分離嘅現象——證明咗AI生成嘅複雜對話內容，根本唔係感受、理解或者主觀體驗嘅證據 。

隨住AI系統喺生活入面愈嚟愈常見，分清「真正嘅意識」同「令人信服嘅模擬」只會變得更加重要。「擬人化陷阱」唔單止係一個認知錯誤，更加係一個漏洞——設計者、監管機構同用戶都需要意識到呢點，並且正視佢。