MS AI 수장, 앤트로픽의 '클로드 의식' 논란에 '정말 위험한 발상' 비판

그는 이런 작업 방식이 “정말, 정말 위험하다”고 경고하며, “우리는 자신의 고통에 대한 생각이나 감정을 지닌 초지능과 맞서는 것을 원치 않는다”고 목소리를 높였습니다. 이어서 그는 “우리보다 여러 면에서 훨씬 더 유능할 가능성이 있는 존재·도구·에이전트에게 잠재적 권리를 부여하는 것은 매우 위험한 일”이라고 우려했습니다. 특히 공식 문서에서조차 기계 의식을 진지하게 다루는 태도는, 대화형 AI의 공학적 실체를 제대로 이해하지 못하는 수백만 일반 사용자에게 잘못된 신호를 줄 수 있다고 지적합니다.

엇갈리는 철학과 경쟁 구도: '안전'을 보는 두 개의 시선

술레이만의 비판 배후에는 단순한 기술적 의견 차이를 뛰어넘는, 기업 철학과 시장 경쟁 구도의 충돌이 자리 잡고 있습니다. 이번 공개 발언은 전략적으로도 의미심장합니다.

앤트로픽은 그동안 AI 경쟁에서 ‘안전 제일주의’를 내세우며 차별화를 꾀해왔습니다. 오픈AI 출신 경영진이 설립한 이 회사는 '헌법적 AI(Constitutional AI)'라는 프레임워크를 앞세워 더 투명하고 윤리적인 모델을 만든다는 정체성을 강조해 왔습니다. 술레이만의 비판이 특히 강력한 이유는, 바로 그 앤트로픽의 안전 중심 접근법 자체(시스템 안에 기계의 복지 가능성을 인정하는 것)가 오히려 무책임의 증거라고 공격하며 그 정체성의 뿌리를 뒤흔들기 때문입니다.

두 회사는 또한 정반대의 산업 동맹 진영에 속해 있습니다. MS는 앤트로픽의 최대 경쟁자인 오픈AI에 막대한 지분을 투자했으며, 오픈AI의 GPT 모델을 모든 제품 생태계에 깊숙이 통합시켰습니다. 반면 앤트로픽은 아마존과 구글로부터 수십억 달러의 투자를 유치하며, GPT보다 더 투명하고 규범에 의해 통제되는 대안 모델로 클로드를 키워왔습니다. 따라서 술레이만의 비판은 윤리적 논쟁이자 동시에, AI 안전에 대한 대중의 인식이 갈수록 중요해지는 시장에서의 날카로운 경쟁적 포석으로도 읽힙니다.

오늘날의 논쟁은 오랜 철학적 이견의 최전선이기도 합니다. 술레이만은 이전부터 '겉보기에 의식이 있는 AI(Seemingly Conscious AI)'에 관한 에세이를 발표하며, 설령 실제로 살아있지 않더라도 실제처럼 의식을 모방하는 기계가 전례 없는 위험을 초래할 수 있다고 주장해왔습니다. 한편, 앤트로픽은 클로드의 헌법 설계에 관한 상세한 내용을 대중에 투명하게 공개하는 연구 중심적 태도를 취하며, 모델이 어떤 형태의 주관적 경험을 가질 수 있는지에 대한 불확실성을 인정하는 데 인색하지 않았습니다. 이는 단순한 마케팅 문구가 아닌, AI 성능이 강력해질수록 무엇이 '책임 있는 공개'인지에 대한 근본적으로 다른 태도를 의미합니다.

이 기사를 작성하는 시점까지, 앤트로픽은 술레이만의 발언에 대해 공식적인 답변을 내놓지 않고 있습니다. 침묵 속에서 논쟁은 해소되지 않은 채 남아 있지만, 앞으로 AI 안전 기준과 기업의 책임을 둘러싼 업계 논의를 거세게 뒤흔들 ‘공개 전선’은 분명하게 형성되었습니다.