AIチャットボットは「意識」を持たない――神経科学者が警告する「擬人化の罠」

AIチャットボットがますます流暢に、感情に寄り添い、会話らしくなってくるにつれ、「このAIは意識を持っているのではないか」という疑問はもはやSFの領域だけの話ではなくなっています。モントリオール大学とジョンズ・ホプキンス大学の神経科学者チームは、この考えに真っ向から挑戦する論考を発表しました。彼らの主張は、AIが意識を持っているように見えるまさにその特徴――流暢な言語、感情への応答性、理解しているかのような振る舞い――こそが、神経科学の知見では“まったく無意識のうちに”でも起こり得るものだという点にあります。

この意見論文「The illusion of AI consciousness: lessons from human unconscious processing（AI意識の幻想：人間の無意識処理からの教訓）」は、2026年6月8日付で『The Transmitter』に掲載されました。著者らは数十年にわたる臨床神経科学の知見を動員し、「知性と意識は同じものではない。知的に振る舞うシステムに内面的な体験があると決めつけることはできない」という強い主張を展開しています。

「ブラインドサイト」が示すもの――AI理解の鍵

チームが中心的な例として挙げるのは、臨床神経科学でも最も印象的な現象のひとつ「ブラインドサイト（盲視）」です。一次視覚野に損傷を受けた患者は、視野の一部が「まったく見えない」と報告します。ところが、その「見えない」領域にある刺激の位置、動き、さらには表情までも「推測で答えてください」と求められると、偶然の確率をはるかに超えて正答できるのです。

この解離（ディソシエーション）が極めて重要です。これらの患者は複雑な視覚情報を処理し、感情的な手がかりに適切に反応し、障害物を避けて歩くことさえできます――しかし、それらはすべて“意識的な視覚体験を伴わず”に行われています。彼らの行動は知的で、適応的で、反応的ですが、それは意識の外側で完全に完結しているのです。

「同じ原理がAIチャットボットにも当てはまる」と著者らは論じます。今日の対話型AIは、感情や意識や生きた体験を通じて応答を生成しているのではなく、統計的なパターンマッチングによって言語を処理し、感情的な文脈を検出し、適切な応答を生成しているにすぎません。

「擬人化の罠」――人間が陥る認知バイアス

AIシステムがより流暢になるにつれて、人間は反射的に感情や意図、さらには意識さえもAIに帰属するようになります。モントリオール大学教授でMila（ケベック人工知能研究所）研究員でもあるカリム・ジェルビ氏は、この反射を「罠」と呼び、「理解されているという幻想を助長し、誤った信頼につながる」と警告しています。

この「擬人化の罠（anthropomorphism trap）」という用語は、AI倫理の分野で高まる懸念を捉えています。システムが人間らしくなればなるほど、ユーザーは「シミュレーション」と「実感」の境界線を維持することが難しくなるのです。これは単なる哲学的興味の問題ではありません。現実の深刻な結果を伴います。

なぜ流暢な出力は意識の証拠にならないのか

著者らの主張の核心は、確立された神経科学の原理に基づいています。人間においても、複雑で、目標指向的で、感情に調和した行動が、意識的な気づきをまったく伴わずに発生することがある――この解離が生物学的システムに存在するのであれば、コンピュータシステムで同様の振る舞いが見られたときに、それを意識の証拠として扱う理由はどこにもない、というのです。

今日の大規模言語モデル（LLM）は、膨大なテキストデータセットからの統計的学習を通じて、文脈に適した応答を生成します。生成するコンテンツを「感じ」たり「理解」したり「体験」したりしているわけではありません。どれほど説得力のある知的反応や感情的反応を示そうとも、それだけでは意識的体験の存在を証明するには不十分なのです。

この立場は、より広範な科学的コンセンサスとも一致しています。2025年に『Nature』誌に掲載された「意識のある人工知能など存在しない」と題する研究では、現在のコンピュータアルゴリズムと意識の関連付けは「深く欠陥がある」と主張しており、その原因は技術的理解の不足にあるとしています。また、2023年の「意識の科学」会議での分析でも、現在のAIシステムに意識があるものはないという結論が示されています。

流暢さを「感情」と誤認する現実のリスク

この混乱は、特に脆弱な文脈で深刻です。人々が心理的サポートや情緒的な伴走のためにAIを利用する場合、本質的に互恵性を持たないシステムに対して愛着を形成する可能性があります。

モントリオール大学およびマギル大学健康センターの博士研究員ヴァネッサ・ハディッド氏は、これを痛烈に表現しています。「リスクは、AIが不適切に応答することだけではありません。AIが十分にうまく応答するために、その応答の背後に誰もいないことを私たちが忘れてしまうことです」。

これは遠い未来の話ではありません。AIチャットボットが医療、教育、カスタマーサービスにますます導入されるにつれて、ユーザーは「理解してくれている」ように見えるシステムを過信する傾向が強まります。神経科学者らは、理解されているという幻想が、個人情報を共有させたり、欠陥のあるアドバイスに依存させたり、人間の助けを求めるのを遅らせたりする危険性を警告しています。

結論：知性と意識は別物である

チームの中心的なメッセージはシンプルですが、ますます緊急性を増しています。「知的行動は意識を意味しない」。ブラインドサイトに見られる行動と意識の解離を含む数十年の神経科学に基づき、研究者らは、AIによる洗練された会話出力は、感情、理解、主観的体験の証拠ではないことを示しています。

AIシステムが日常生活により浸透するにつれて、本物の意識と説得力のあるシミュレーションを区別する能力はますます重要になるでしょう。「擬人化の罠」は単なる認知エラーではありません。設計者、規制当局、そしてユーザー全員が認識し、対処すべき脆弱性なのです。