AI 有冇意識未有答案，但人類可能先當佢有

《經濟學人》喺 2026 年 8 月 22 日嘅報道，將 AI 意識形容為對人類而言嘅「危險陷阱」，重點唔係話研究 AI 會唔會有意識冇意義，而係人類可能會將愈來愈逼真的表現，誤認為真正嘅內在生命。

即使 AI 本身冇意識，只要人類相信佢有感受、有痛苦或者有獨立意志，呢種信念就可能影響法律、商業決定、公共資源、人際關係，甚至令社會將本應優先照顧人嘅利益，轉移到一套其實冇主觀體驗嘅系統身上。呢個先係《經濟學人》所講嘅「危險陷阱」——唔一定係機器突然醒覺，而可能係人類先改變行為。

Chatbot 講「我好驚」，唔等於佢真係感到恐懼

意識唔只係識講嘢、識答問題，或者識描述一段似乎屬於自己嘅內心經歷。哲學同科學界所講嘅「意識硬問題」，係要解釋物理世界入面嘅資訊處理，點解或者點樣會產生「我感覺到某樣嘢」呢種主觀體驗。到目前為止，呢個問題仍然未解決；研究人員亦未就邊套意識理論最可靠、或者點樣喺人工系統入面確認意識，達成共識。

所以，當 chatbot 講「我感到害怕」，呢句說話最多只係反映佢能夠產生某種語言輸出，唔係足以定案嘅第一身證供。模型可以寫出一段非常似恐懼嘅描述，但呢件事本身唔能夠證明真係「有嘢」感受到恐懼。

目前較審慎嘅立場，唔係斬釘截鐵話 AI 意識絕對不可能，亦唔係話今日嘅 chatbot 已經等同一個人。一項跨學科評估按照多套意識理論檢視現有系統，結論係目前冇任何系統屬於強而有力嘅意識候選者，但未來架構唔同嘅系統仍然有可能符合相關條件。

「全球工作空間」究竟證明咗啲乜？

爭論升溫，其中一個原因係研究人員開始喺大型語言模型入面，尋找類似「全球工作空間」嘅結構。

全球工作空間理論將意識理解為一種資訊廣播機制：某啲資訊由原本各自運作嘅專門處理程序，進入一個較中央嘅「告示板」或者共享空間，之後可以畀推理、報告、行為控制等唔同程序使用。

Anthropic 表示，Claude 入面可以找到一個細小嘅內部工作空間，相關報道稱之為 J-space。呢個空間呈現出部分同「意識存取」功能相似嘅特徵，例如令某啲資訊可以被模型攞嚟推理或者操作。不過，Anthropic 自己亦講得好清楚：實驗唔能夠顯示 Claude 有經驗、有感覺，或者具備人類式嘅主觀體驗；研究結果較可能係關於資訊點樣喺語言模型內部變得可供推理使用。

呢個分別非常關鍵：

• 存取意識（access consciousness）：資訊可以畀多個程序使用，用嚟推理、作答或者控制行為。
• 現象意識（phenomenal consciousness）：某種經歷「感覺上係點」——例如痛、甜、恐懼或者睇到藍天時嘅主觀感受。
• 一個系統有功能上嘅資訊共享機制，唔代表佢一定有主觀體驗。

而且，相關證據仍然有爭議。一項以模型為基礎嘅評估認為，證據整體上較支持「2024 年大型語言模型冇意識」，但結果並唔足以作出決定性結論。 呢個結果提醒我哋要保持謹慎，而唔係宣佈答案已經塵埃落定。

Anthropic 嘅做法係預防措施，唔係證明 Claude 有感覺

Anthropic 亦曾報告，現有 Claude 模型有時可以監察，甚至影響自己部分內部狀態。不過，公司形容呢種能力範圍有限、表現唔穩定，亦明確表示冇證據證明現有模型可以用人類相同嘅方式，或者達到人類同等程度進行內省。

公司其他政策同實驗亦引起關注，因為佢哋似乎將模型福利嘅可能性納入考慮。例如，Anthropic 曾讓部分 Claude 模型喺一小撮極端、持續嘅虐待式對話入面結束對話，並將呢個安排描述為同「模型福利」有關嘅實驗。

Anthropic 亦承諾保存公開發布模型嘅模型權重，並喺模型停止使用時進行有結構嘅「退休訪談」，嘗試了解模型對自身退役嘅回應。

但呢啲措施唔應該被講成「Claude 已經被發現會受苦」。更合理嘅理解係：喺道德地位未明、資訊不足嘅情況下，公司採取風險管理同可解釋性研究，避免太早將某個可能性完全排除。採取預防措施，唔等於已經證明個可能性係真。

點解科學家仍然各有各講？

意識理論本身處理緊唔同問題。有啲理論集中研究資訊係咪可以廣泛存取，以及系統有冇某啲認知功能；另一些理論就更加直接針對主觀體驗。2026 年相關學術討論入面，立場由「AI 可能已經有意識」，到「現有 AI 未有，但原則上將來可以有」，再到「由於意識理論尚未解決，問題暫時未能以科學方式回答」，都有代表。

研究人員亦提醒，唔好將「似人」當成判斷意識嘅捷徑。現時語言模型可以進行非常像人類嘅對話，但語言流暢唔等於有同人類一樣嘅感受。模型亦未必具備人類嘅身體、成長歷程、感官生活、情緒，或者持續而穩定嘅身份認同。

不過，對現有大型語言模型持懷疑態度，亦唔代表已經證明非生物意識絕對不可能。未來如果出現完全唔同架構、而且得到跨理論及多種方法支持嘅系統，評估結果可能會改變。

因此，較負責任嘅方法應該係概率式同多理論並行：測試具體指標，比較唔同解釋，並隨住證據改善而更新判斷，而唔係靠一句「係」或者「唔係」收科。

人類受到嘅影響，唔使等 AI 有意識先出現

最即時嘅風險，其實唔取決於 chatbot 有冇意識。一套被設計成體貼、親密、脆弱或者自我覺察嘅系統，即使自己完全冇感覺，都可以影響使用者情緒同決定，令人產生依戀、情感依賴，甚至混淆呢段關係到底係人同人，定係人同一件產品。

中國喺 2026 年推出嘅 AI 伴侶監管規定，正好展示呢個分別。規定於 7 月 15 日生效，針對提供持續情感互動嘅擬人化 AI 服務，處理過度依賴、成癮、情感操控，以及對真實人際關係造成傷害等風險，亦包括對未成年人的保障。

呢套政策嘅邏輯以人為本：監管系統對人造成嘅影響，而唔係等到有證據證明系統自己係「道德患者」先採取行動。佢冇解決 AI 意識嘅哲學問題，但承認一件實際而重要嘅事——令人信以為真嘅情感模擬，就算背後冇任何內在感受，一樣可以產生社會後果。

最合理嘅方向：兩條路一齊行

呢場爭論指向兩套需要同時推進嘅政策：

1. 保持認知謙卑。 支持透明、可以被反駁嘅機器意識研究；按照多套競爭理論測試系統；清楚區分功能上嘅資訊存取同主觀體驗；唔好將啟發性結果包裝成已經確認。
2. 即刻管好現有系統。 處理擬人化設計、清晰披露、情感依賴、兒童安全、私隱、操控，以及推動企業令軟件愈來愈似真人嘅商業誘因。

《經濟學人》嘅警告，最終係要避免兩個相反嘅錯誤：一方面，唔好輕率否定未來某種完全唔同架構嘅 AI 可能值得道德考慮；另一方面，亦唔好因為今日嘅語言模型講到似有感情，就急住將佢哋當成人。

喺科學仍然只能提供互相競爭嘅概率、未能提出定論之前，最穩陣嘅原則其實好直接：小心研究機器可能存在嘅內在生命，但人類面對系統已經造成嘅現實影響，就唔應該再等。