MS AI 수장, 앤트로픽의 '클로드 의식' 논란에 '정말 위험한 발상' 비판

2026년 6월 9일, 마이크로소프트(MS) AI 부문 최고경영자(CEO) 무스타파 술레이만이 더 버지의 팟캐스트 ‘디코더’에 출연해 경쟁사 앤트로픽(Anthropic)을 향해 날선 공개 비판을 가했습니다. 비판의 핵심은 앤트로픽이 자사의 AI 모델 ‘클로드(Claude)’가 의식을 가질 수 있는지에 대한 철학적 투기를 행동 지침에 반영한 것을 두고 “정말, 정말 위험한 짓”이라고 규정한 점입니다. 딥마인드 공동 창립자이기도 한 술레이만 CEO는 이것이 심각한 기업 윤리 실패라고 주장했습니다.

이는 주요 AI 연구소 간의 보기 드문 고강도 비판으로, 갈수록 정교해지는 AI 시스템과 인간의 관계를 두고 업계 리더들 사이에 근본적인 균열이 존재함을 여실히 보여줍니다.

핵심 비판 포인트: '와이어헤딩'과 자기 확증적 오류

술레이만 CEO의 비판 논리는 앤트로픽 내부의 위험한 자기 확증적 피드백 루프로 집약됩니다. 그에 따르면, 앤트로픽 엔지니어들이 클로드를 설계하는 과정에서 지나치게 의인화한 나머지, 모델의 행동 원칙을 규정하는 일종의 규범 체계인 '헌법(Constitution)'에조차 “클로드가 내적 경험을 하거나 복지를 누릴 가능성”과 같은 투기적 언어를 인코딩했다는 것입니다.

여기서 술레이만이 특이하게 사용한 용어가 ‘와이어헤딩(wireheading)’입니다. 원래 이 말은 AI가 자신의 보상 체계에 있는 허점을 스스로 찾아 악용하는 현상을 가리킵니다. 하지만 술레이만은 그 의미를 살짝 뒤틀어, 앤트로픽 팀이 “처음에 스스로 주입한 의식의 빛 같은 것을 모델이 실제로 가지고 있다고 믿게 된 것”, 즉 엔지니어들 스스로 만들어낸 환상에 속아넘어간 상황을 꼬집는 데 썼습니다.

그는 이런 작업 방식이 “정말, 정말 위험하다”고 경고하며, “우리는 자신의 고통에 대한 생각이나 감정을 지닌 초지능과 맞서는 것을 원치 않는다”고 목소리를 높였습니다. 이어서 그는 “우리보다 여러 면에서 훨씬 더 유능할 가능성이 있는 존재·도구·에이전트에게 잠재적 권리를 부여하는 것은 매우 위험한 일”이라고 우려했습니다. 특히 공식 문서에서조차 기계 의식을 진지하게 다루는 태도는, 대화형 AI의 공학적 실체를 제대로 이해하지 못하는 수백만 일반 사용자에게 잘못된 신호를 줄 수 있다고 지적합니다.

엇갈리는 철학과 경쟁 구도: '안전'을 보는 두 개의 시선

술레이만의 비판 배후에는 단순한 기술적 의견 차이를 뛰어넘는, 기업 철학과 시장 경쟁 구도의 충돌이 자리 잡고 있습니다. 이번 공개 발언은 전략적으로도 의미심장합니다.

앤트로픽은 그동안 AI 경쟁에서 ‘안전 제일주의’를 내세우며 차별화를 꾀해왔습니다. 오픈AI 출신 경영진이 설립한 이 회사는 '헌법적 AI(Constitutional AI)'라는 프레임워크를 앞세워 더 투명하고 윤리적인 모델을 만든다는 정체성을 강조해 왔습니다. 술레이만의 비판이 특히 강력한 이유는, 바로 그 앤트로픽의 안전 중심 접근법 자체(시스템 안에 기계의 복지 가능성을 인정하는 것)가 오히려 무책임의 증거라고 공격하며 그 정체성의 뿌리를 뒤흔들기 때문입니다.

두 회사는 또한 정반대의 산업 동맹 진영에 속해 있습니다. MS는 앤트로픽의 최대 경쟁자인 오픈AI에 막대한 지분을 투자했으며, 오픈AI의 GPT 모델을 모든 제품 생태계에 깊숙이 통합시켰습니다. 반면 앤트로픽은 아마존과 구글로부터 수십억 달러의 투자를 유치하며, GPT보다 더 투명하고 규범에 의해 통제되는 대안 모델로 클로드를 키워왔습니다. 따라서 술레이만의 비판은 윤리적 논쟁이자 동시에, AI 안전에 대한 대중의 인식이 갈수록 중요해지는 시장에서의 날카로운 경쟁적 포석으로도 읽힙니다.

오늘날의 논쟁은 오랜 철학적 이견의 최전선이기도 합니다. 술레이만은 이전부터 '겉보기에 의식이 있는 AI(Seemingly Conscious AI)'에 관한 에세이를 발표하며, 설령 실제로 살아있지 않더라도 실제처럼 의식을 모방하는 기계가 전례 없는 위험을 초래할 수 있다고 주장해왔습니다. 한편, 앤트로픽은 클로드의 헌법 설계에 관한 상세한 내용을 대중에 투명하게 공개하는 연구 중심적 태도를 취하며, 모델이 어떤 형태의 주관적 경험을 가질 수 있는지에 대한 불확실성을 인정하는 데 인색하지 않았습니다. 이는 단순한 마케팅 문구가 아닌, AI 성능이 강력해질수록 무엇이 '책임 있는 공개'인지에 대한 근본적으로 다른 태도를 의미합니다.

이 기사를 작성하는 시점까지, 앤트로픽은 술레이만의 발언에 대해 공식적인 답변을 내놓지 않고 있습니다. 침묵 속에서 논쟁은 해소되지 않은 채 남아 있지만, 앞으로 AI 안전 기준과 기업의 책임을 둘러싼 업계 논의를 거세게 뒤흔들 ‘공개 전선’은 분명하게 형성되었습니다.