AI 聊天機器人並非真的「懂你」：神經科學家揭開流暢對話背後的意識之謎

當AI系統變得越來越流暢，人類會下意識地將情感、意圖，甚至意識歸因於它們。蒙特婁大學教授、同時也是Mila魁北克AI研究所研究員的Karim Jerbi將這種反射性行為稱為「一個陷阱」，它「助長了被理解的錯覺，並可能導致誤導性的信任」。

這個詞精準捕捉了AI倫理領域日益增長的擔憂：一個系統越是擬人化，使用者就越難維繫「模擬」與「真實意識」之間的界線。這並非只是哲學上的好奇，它帶有真實的後果。

為何流暢的輸出不是意識的證據

作者們的核心論點建立在一個神經科學的成熟原理之上。在人類身上，複雜、有目標導向、甚至能適應情緒的行為，完全可以在沒有意識覺察的狀態下發生。如果這種解離存在於生物系統中，那麼當它在計算系統中出現時，我們沒有理由將其視為意識的證據 。

當前的大型語言模型（LLMs）是透過從海量文字資料中進行統計學習，來生成符合上下文的回應。它們並不會「感受」、不會「理解」，也不會「體驗」它們所生成的內容。無論多麼令人信服的智慧或情緒化行為，都不足以建立意識經驗的存在 。

這個立場與更廣泛的科學共識一致。《自然》（Nature）期刊在2025年發表的一篇題為〈不存在所謂有意識的人工智慧〉（There is no such thing as conscious artificial intelligence）的研究指出，將意識與當今的電腦演算法（主要是LLMs）連結在一起是「從根本上就是有缺陷的」，並且源於對技術的缺乏理解 。同樣地，2023年「意識科學會議」（Science of Consciousness conference）的分析結論也認為，目前沒有任何AI系統具備意識 。

誤將流暢當作感受的真實風險

這種混淆在脆弱的情境下尤其嚴重。當人們使用AI進行心理支援或情感陪伴時，他們可能對一個本質上無法給予回應的系統產生了情感連結 。

蒙特婁大學與麥基爾大學健康中心（McGill University Health Centre）的博士後研究員Vanessa Hadid以直白的語言警告：「風險不僅在於AI可能回應得很糟糕，更在於它可能回應得『太好』，好到讓我們忘記答案的背後空無一人」。

這並非遙遠的擔憂。隨著AI聊天機器人越來越多地部署在醫療保健、教育與客戶服務領域，使用者很可能過度信任那些看似「善解人意」的系統。神經科學家警告，被理解的錯覺會導致人們分享敏感資訊、依賴有缺陷的建議，或延遲尋求真人協助 。

核心結論：智慧與意識截然不同

團隊的訊息簡單卻日益迫切：智慧行為並不代表意識。透過援引數十年的神經科學研究——包括盲視現象中行為與覺察的解離——研究團隊證明了，AI產出的高級對話內容，並非感受、理解或主觀體驗的證據 。

隨著AI系統在日常生活中越來越普及，區分真實意識與逼真模擬將變得更加重要。「擬人化陷阱」不僅是認知失誤，更是一種設計師、監管單位以及所有使用者都必須正視與應對的脆弱性。