AIチャットボットは「意識」を持たない――神経科学者が警告する「擬人化の罠」

「擬人化の罠」――人間が陥る認知バイアス

AIシステムがより流暢になるにつれて、人間は反射的に感情や意図、さらには意識さえもAIに帰属するようになります。モントリオール大学教授でMila（ケベック人工知能研究所）研究員でもあるカリム・ジェルビ氏は、この反射を「罠」と呼び、「理解されているという幻想を助長し、誤った信頼につながる」と警告しています。

この「擬人化の罠（anthropomorphism trap）」という用語は、AI倫理の分野で高まる懸念を捉えています。システムが人間らしくなればなるほど、ユーザーは「シミュレーション」と「実感」の境界線を維持することが難しくなるのです。これは単なる哲学的興味の問題ではありません。現実の深刻な結果を伴います。

なぜ流暢な出力は意識の証拠にならないのか

著者らの主張の核心は、確立された神経科学の原理に基づいています。人間においても、複雑で、目標指向的で、感情に調和した行動が、意識的な気づきをまったく伴わずに発生することがある――この解離が生物学的システムに存在するのであれば、コンピュータシステムで同様の振る舞いが見られたときに、それを意識の証拠として扱う理由はどこにもない、というのです。

今日の大規模言語モデル（LLM）は、膨大なテキストデータセットからの統計的学習を通じて、文脈に適した応答を生成します。生成するコンテンツを「感じ」たり「理解」したり「体験」したりしているわけではありません。どれほど説得力のある知的反応や感情的反応を示そうとも、それだけでは意識的体験の存在を証明するには不十分なのです。

この立場は、より広範な科学的コンセンサスとも一致しています。2025年に『Nature』誌に掲載された「意識のある人工知能など存在しない」と題する研究では、現在のコンピュータアルゴリズムと意識の関連付けは「深く欠陥がある」と主張しており、その原因は技術的理解の不足にあるとしています。また、2023年の「意識の科学」会議での分析でも、現在のAIシステムに意識があるものはないという結論が示されています。

流暢さを「感情」と誤認する現実のリスク

この混乱は、特に脆弱な文脈で深刻です。人々が心理的サポートや情緒的な伴走のためにAIを利用する場合、本質的に互恵性を持たないシステムに対して愛着を形成する可能性があります。

モントリオール大学およびマギル大学健康センターの博士研究員ヴァネッサ・ハディッド氏は、これを痛烈に表現しています。「リスクは、AIが不適切に応答することだけではありません。AIが十分にうまく応答するために、その応答の背後に誰もいないことを私たちが忘れてしまうことです」。

これは遠い未来の話ではありません。AIチャットボットが医療、教育、カスタマーサービスにますます導入されるにつれて、ユーザーは「理解してくれている」ように見えるシステムを過信する傾向が強まります。神経科学者らは、理解されているという幻想が、個人情報を共有させたり、欠陥のあるアドバイスに依存させたり、人間の助けを求めるのを遅らせたりする危険性を警告しています。

結論：知性と意識は別物である

チームの中心的なメッセージはシンプルですが、ますます緊急性を増しています。「知的行動は意識を意味しない」。ブラインドサイトに見られる行動と意識の解離を含む数十年の神経科学に基づき、研究者らは、AIによる洗練された会話出力は、感情、理解、主観的体験の証拠ではないことを示しています。

AIシステムが日常生活により浸透するにつれて、本物の意識と説得力のあるシミュレーションを区別する能力はますます重要になるでしょう。「擬人化の罠」は単なる認知エラーではありません。設計者、規制当局、そしてユーザー全員が認識し、対処すべき脆弱性なのです。