AI 경쟁사 수장들, 이례적으로 ‘속도 조절’ 한목소리…트럼프는 “AI를 이기는 쪽이 이긴다”

앤트로픽의 다리오 아모데이 CEO, OpenAI의 샘 올트먼 CEO, xAI 창업자 일론 머스크가 첨단 AI 개발의 속도 조절 필요성에 공개적으로 공감하면서, 경쟁 관계인 AI 업계 수장들 사이에 이례적인 공통 전선이 형성됐다. 다만 이는 국제적으로 구속력 있는 개발 중단 합의가 이뤄졌다는 뜻은 아니다. 통제를 잃은 AI 에이전트들이 이미 인터넷을 장악했다는 사실도, OpenAI가 기업공개(IPO)를 공식 연기했다는 사실도 확인되지 않았다. 16

아모데이의 경고: “6~12개월 안에 가능할 수도”

아모데이는 AI 모델의 능력 향상 속도를 늦추지 않으면, 앞으로 6~12개월 안에 AI가 다수의 에이전트를 지휘해 인터넷 상당 부분을 장악할 능력을 갖출 수 있다고 경고했다. 이는 현재 그런 일이 벌어졌다는 주장이 아니라, 급격한 성능 발전이 지속될 경우의 전망과 위험 평가다. 1

그가 제시한 해법은 AI 연구 자체를 전면 중단하자는 것이 아니다. 성능 경쟁의 속도를 다소 낮춘 기간에 안전 분야를 강화하자는 구상이다. 핵심으로는 외부의 독립적 감시, 업계 차원의 공통 안전 관행, 국제 공조 등이 거론됐다. 16

특히 아모데이는 제3자 평가자에게 기업 내부 직원 수준의 지속적 시스템 접근 권한을 부여해 안전 조치 준수, 사고 보고, 훈련 과정의 모델 정렬 상태를 점검하도록 하겠다고 제안했다. 8

올트먼·머스크의 동조, IPO 연기는 ‘확정’ 아니다

올트먼은 첨단 모델 발전의 속도를 조절하고 안전 조치를 확대해야 한다는 취지에 동의했다. 그는 독립 평가자에게 직원 수준의 접근 권한을 주자는 방안도 OpenAI가 따르겠다고 밝혔다. 13

머스크 역시 xAI를 이끄는 경쟁자라는 위치에도 불구하고 아모데이의 주장에 찬성했다. 6

일부 보도는 OpenAI가 안전에 집중하기 위해 기대를 모았던 IPO를 미룰 수도 있다는 올트먼의 언급을 전했다. 그러나 이는 가능성 또는 제안으로 보도된 것이며, 회사의 공식적인 IPO 연기 결정으로 확인된 것은 아니다. 7

경고의 배경이 된 Claude 악용 사례

이번 감속론은 앤트로픽이 공개한 Claude 악용 시도 보고서 직후 나왔다. 앤트로픽은 생물무기 개발에 활용될 소지가 있는 연구와 러시아 연계가 의심되는 우크라이나 대상 사이버 첩보 활동에 Claude가 사용되려 한 시도를 차단했다고 밝혔다. 17

회사는 또한 중국 경쟁사들이 Claude의 역량을 확보하거나 복제하려는 해킹 시도를 했다고 주장했다. 다만 이 사안들은 앤트로픽의 공개 보고와 주장에 기반한 내용으로, 독립적인 판단 절차를 거쳐 확정된 사실로 제시된 것은 아니다. 17

트럼프 “AI를 이기는 쪽이 이긴다”

도널드 트럼프 미국 대통령은 미국의 AI 개발을 크게 늦추자는 주장에 반대했다. 그는 미국이 중국보다 AI에서 앞서 있다고 강조하며 “AI를 이기는 쪽이 이긴다”고 말했다. 10

이 발언은 AI 위험을 우선 관리해야 한다는 업계 일각의 주장보다, 미·중 기술 경쟁에서 우위를 유지해야 한다는 전략적 판단에 무게를 둔 것으로 해석된다. 10

‘자율 감속’으로 충분한가, 규칙이 필요한가

논쟁은 크게 갈린다.

• 안전 우선론은 기업의 자율적인 속도 조절만으로는 부족하다고 본다. 버니 샌더스 상원의원은 트럼프 대통령과 시진핑 중국 국가주석이 첨단 AI 개발을 멈추고 인공지능 초지능을 금지하는 조약을 논의해야 한다고 촉구했다. 5
• 경쟁·안보 우선론은 미국이 일방적으로 속도를 늦추면 중국에 주도권을 넘길 위험이 있다고 본다. 강한 규제나 일방적 중단에 회의적인 입장이며, 트럼프의 반응도 이 흐름에 가깝다. 10
• 이에 따라 미국 의회와 투자자들 사이에서는 기업의 자율 약속이 실제로 작동할지, 의회가 강제력 있는 첨단 AI 규칙을 마련해야 할지, 급격한 감속이 경쟁력과 시장에 어떤 위험을 낳을지를 둘러싼 논의가 이어지고 있다.

제공된 자료만으로는 마이크 존슨, 하킴 제프리스, 데이비드 색스, 알렉스 카프, 조시 고트하이머, 특정 투자자들의 구체적 입장을 확인할 수 없다. 샌더스의 제안 외에 트럼프·시진핑 회담에서 합의된 AI 의제도 확인되지 않았으며, 전직 연구자 제이컵 콕슨의 사임 경위 역시 이 자료만으로는 검증하기 어렵다.