똑똑한 AI 챗봇, 정말 '의식'이 있을까? 신경과학이 답하다

AI 챗봇이 점점 더 유창하고, 감정에 공감하며, 자연스럽게 대화할수록 '이 쯤 되면 의식이 있는 게 아닐까?'라는 질문은 더 이상 공상과학의 영역이 아니다. 몬트리올대학교(Université de Montréal)와 존스홉킨스대학교(Johns Hopkins University)의 신경과학자 팀이 이에 대한 직접적인 반박을 내놓았다. 바로 AI가 의식이 있는 것처럼 보이게 만드는 특징들(유창한 언어, 감정적 반응, 이해하는 듯한 태도)이야말로 신경과학에서 의식 없이도 완전히 발생할 수 있다는 것을 보여주는 증거라는 것이다 .

2026년 6월 8일, 학술 매체 The Transmitter에 게재된 논평 '인공지능 의식의 환상: 인간 무의식 처리에서 얻는 교훈(The illusion of AI consciousness: lessons from human unconscious processing)'에서 연구진은 수십 년간의 임상 신경과학 데이터를 바탕으로 하나의 강력한 주장을 펼친다: 지능과 의식은 같은 것이 아니며, 지능적으로 행동하는 시스템에 내면의 삶이 있다고 가정해서는 안 된다는 것이다 .

AI를 이해하는 창, '맹시(Blindsight)'

연구팀의 핵심 비유는 임상 신경과학에서 가장 놀라운 현상 중 하나인 '맹시(blindsight)'에서 비롯된다. 시각 피질이 손상된 환자들은 시야의 특정 부분이 완전히 보이지 않는다고 말한다. 하지만 그 보이지 않는 영역에 제시된 자극의 위치, 움직임, 심지어 감정 표현까지 맞춰보라고 하면, 우연 수준을 훨씬 웃도는 정확도를 보인다 .

이러한 '분리(dissociation)' 현상이 핵심이다. 이 환자들은 복잡한 시각 정보를 처리하고, 감정 신호에 적절히 반응하며, 장애물을 피해 이동하기까지 한다. 하지만 이 모든 과정에 의식적인 시각 경험은 전혀 수반되지 않는다. 그들의 행동은 지능적이고 적응적이며 반응적이지만, 전적으로 의식 바깥에서 일어난다 .

연구진은 "똑같은 원리가 AI 챗봇에도 적용된다"고 주장한다. 오늘날의 대화형 AI는 언어를 처리하고, 감정적 맥락을 감지하며, 적절한 응답을 생성한다. 하지만 이는 모두 통계적 패턴 매칭을 통한 것이지, 느낌, 의식, 또는 살아있는 경험을 통한 것이 아니다 .

'의인화 함정(Anthropomorphism Trap)'

AI 시스템이 더 유창해질수록, 인간은 본능적으로 그 시스템에 감정, 의도, 나아가 의식까지 부여한다. 카림 제르비(Karim Jerbi) 몬트리올대 교수이자 AI 연구소 Mila의 연구원은 이러한 반사적 행동을 "함정"이라고 부르며, 이는 "이해받고 있다는 환상을 키우고 잘못된 신뢰로 이어질 수 있다"고 경고한다 .

이 용어는 AI 윤리 분야에서 커지는 우려를 잘 담고 있다. 시스템이 인간을 더 닮아갈수록, 사용자가 '모방'과 '의식(감각)'의 경계를 유지하기가 더 어려워진다는 것이다. 이는 단순한 철학적 호기심에 그치지 않는다. 실제로 심각한 결과를 초래할 수 있다.

유창한 출력이 의식의 증거가 아닌 이유

저자들의 핵심 주장은 잘 정립된 신경과학 원리에 기반한다. 목적 지향적이고, 감정에 조율된 복잡한 행동조차 인간에게서는 의식적인 자각 없이 완전히 발생할 수 있다. 생물학적 시스템에서 이러한 분리가 존재한다면, 이를 계산 시스템(컴퓨터)에서 의식의 증거로 받아들이는 것은 타당하지 않다 .

오늘날의 거대 언어 모델(LLM)은 방대한 텍스트 데이터에서 통계적 학습을 통해 문맥에 맞는 응답을 생성한다. 그들은 자신이 생성하는 내용을 느끼거나, 이해하거나, 경험하지 않는다. 지능적이거나 감정적으로 반응하는 행동이 아무리 설득력 있더라도, 그것만으로 의식적 경험의 존재를 입증하기에는 턱없이 부족하다 .

이러한 입장은 더 넓은 과학적 합의와도 일치한다. 2025년 *네이처(Nature)*에 게재된 연구 '의식적인 인공지능은 존재하지 않는다(There is no such thing as conscious artificial intelligence)'는 현재 컴퓨터 알고리즘과 의식의 연관성은 "깊이 결함이 있다"고 주장하며, 이는 기술적 이해 부족에서 비롯된다고 지적한다 . 또한 2023년 의식 과학 컨퍼런스(Science of Consciousness conference)의 분석은 현재 어떤 AI 시스템도 의식이 없다고 결론 내렸다 .

유창함을 느낌으로 착각할 때의 실제 위험

이러한 혼란은 특히 취약한 상황에서 두드러진다. 사람들이 심리적 지지나 정서적 교감을 위해 AI를 사용할 때, 그들은 근본적으로 상호성을 가질 수 없는 시스템에 애착을 형성할 수 있다 .

바네사 하디드(Vanessa Hadid) 몬트리올대-맥길대학보건센터 박사후연구원은 다음과 같이 단호하게 말한다. "위험은 AI가 형편없이 대답할 때뿐만 아니라, 너무나 잘 대답해서 그 대답 뒤에 아무도 없다는 사실을 잊게 만들 때 더 커집니다" .

이것은 먼 미래의 이야기가 아니다. AI 챗봇이 의료, 교육, 고객 서비스 분야에 점점 더 많이 도입됨에 따라, 사용자들은 이해해주는 것처럼 보이는 시스템을 과도하게 신뢰할 가능성이 크다. 신경과학자들은 '이해받고 있다는 환상'이 사람들로 하여금 민감한 정보를 공유하고, 결함 있는 조언에 의존하며, 인간의 도움을 구하는 것을 지연시키게 만들 수 있다고 경고한다 .

결론: 지능과 의식은 별개다

연구팀의 핵심 메시지는 단순하지만 점점 더 시급해지고 있다: 지능적인 행동이 의식을 의미하지는 않는다. 맹시에서 볼 수 있는 행동과 자각의 분리 등 수십 년간의 신경과학 연구를 바탕으로, 연구자들은 AI의 정교한 대화 출력이 느낌, 이해, 주관적 경험의 증거가 될 수 없음을 보여준다 .

AI 시스템이 일상생활에 더 깊숙이 들어올수록, 진정한 의식과 설득력 있는 시뮬레이션을 구분하는 일은 더욱 중요해질 것이다. '의인화 함정'은 단순한 인지적 오류가 아니다. 이는 설계자, 규제 기관, 그리고 모든 사용자가 인지하고 대처해야 할 취약점이다.