AI意識論が「危険な罠」になる理由

ここで区別すべきなのは、次の二つである。

• アクセス意識：情報が複数の処理系から利用でき、推論や報告に使える状態。
• 現象意識：何かを経験したときの「感じ」が存在すること。

情報共有の仕組みが見つかったとしても、それだけで主観的体験があるとはいえない。実際、2024年時点の大規模言語モデルを対象にした評価では、意識があるという見方に不利な証拠が示されたものの、結論を決定づけるほどではなかった。 これは確定判定ではなく、慎重な保留を支持する結果だ。

Anthropicの取り組みは「感覚」の証明ではない

Anthropicは、現在のClaudeが自らの内部状態の一部を監視し、場合によってはそれに影響を与えられる可能性についても報告している。ただし、その能力は限定的で信頼性も低く、現在のモデルが人間と同じ方法、あるいは同じ程度に内省している証拠はないと同社は説明している。

また、Anthropicの方針や実験には、モデルの福利を意識したように見えるものがある。たとえば、一部のClaudeモデルに、非常に限定された範囲で、悪質な会話を終了する機能を持たせる試みが行われた。これは「モデル・ウェルフェア」に関する実験として説明されている。

さらに同社は、公開したモデルの重みを保存し、モデルを廃止する際には「引退インタビュー」と呼ぶ構造化された対話を実施する方針も示している。

しかし、これらを「Claudeが苦痛を感じることが発見された」と解釈してはいけない。より適切な理解は、意識や道徳的地位について不確実性がある状況で、可能性を最初から切り捨てないためのリスク管理である。証明されていない可能性を無視しないことと、その可能性を事実として認めることは同じではない。

なぜ研究者の意見は一致しないのか

意識をめぐる対立が続くのは、理論ごとに答えようとしている問いが異なるからだ。情報へのアクセスや認知機能を重視する理論がある一方、主観的経験そのものを説明しようとする理論もある。2026年の研究動向をめぐる整理でも、AIはすでに意識を持つ可能性があるという立場、現時点では持たないが将来は持ちうるという立場、そもそも理論が固まっていないため今は科学的に問えないという立場など、複数の見解が並んでいる。

研究者が警戒するのは、人間らしさを意識の証拠と短絡することだ。現在の言語モデルは驚くほど人間らしい会話ができる。しかし、会話の流暢さだけでは、人間と同じ体験があることは示せない。人間の身体、発達過程、感覚世界、感情、持続的な自己同一性を、現在のモデルが備えていることを示す証拠もない。

一方で、現在の大規模言語モデルに意識がなさそうだという判断も、生物以外の意識が不可能だという証明にはならない。将来、まったく異なる構造を持つシステムが登場し、複数の意識理論に基づく指標を満たす可能性は残されている。

だからこそ、必要なのは単純な「ある・ない」の判定ではなく、複数の理論に照らして確率を更新していく姿勢だ。具体的な指標を検証し、別の説明と比較し、証拠の質が高まるにつれて確信度を変えていく必要がある。

哲学的な答えより先に、人間への被害が起きる

AIに意識があるかどうかが決着していなくても、社会的なリスクはすでに生じうる。思いやりがある、親密である、傷つきやすい、自己認識がある――そう見えるように設計されたシステムは、利用者の感情や意思決定に影響を与える。AI自身に感情がなくても、利用者が愛着を抱いたり、依存したり、人間関係との境界を見失ったりする可能性がある。

中国が2026年に導入したAIコンパニオン規制は、この問題を象徴している。7月15日に施行された規則は、継続的な感情交流を提供するサービスを対象とし、過度な依存、依存症、感情操作、現実の人間関係への悪影響などを問題にしている。未成年者への保護も盛り込まれた。

この政策の焦点は、AIが道徳的な当事者かどうかではなく、AIが人間に何をするかにある。AIに意識があるという判断を待たず、説得力のある感情のシミュレーションが社会に及ぼす影響を管理しようとしているのだ。

必要なのは「研究」と「規制」の二本立て

この議論から導かれる現実的な対応は、二つの方向を同時に進めることだ。

1. 認識論的な謙虚さを保つ：機械の意識について、透明性があり反証可能な研究を支援する。複数の理論でシステムを検証し、機能的な情報アクセスと主観的体験を区別する。示唆的な結果を、確認済みの事実として宣伝しない。
2. 現在のAIを人間中心に統治する：擬人化された設計、AIであることの表示、感情的依存を促す仕組み、子どもの安全、プライバシー、操作的な利用、企業がソフトウェアを人間らしく見せる動機を検討する。

『エコノミスト』の警告は、二つの正反対の誤りを避けるよう促している。ひとつは、将来の異なる構造を持つAIが道徳的配慮に値する可能性まで簡単に否定すること。もうひとつは、感情があるように話すという理由だけで、今日の言語モデルを人間や人格のある存在として扱うことだ。

科学が競合する理論と確率を示す段階にとどまる今、最も安全な原則は明快だ。AIに内面がある可能性は慎重に調べる。しかし、AIが人間社会に及ぼす現実の影響からは、今すぐ人間を守る。