AI는 멈출 수 없나: 트럼프의 미·중 경쟁론과 아모데이의 안전장치론

트럼프 대통령은 고도 AI를 둘러싼 논쟁을 본질적으로 중국과의 기술 경쟁으로 규정했다. 그는 미국이 AI 산업의 선두를 지켜야 한다며 “AI에서 이기는 쪽이 이긴다”고 말했고, AI가 세계를 장악하거나 인류를 파괴할 수 있다는 주장은 “사기(HOAX)”라고 일축했다. AI와 데이터센터를 반대하는 움직임은 중국에만 이익이 되는 “병든 음모(SICK conspiracy)”라는 주장도 폈다. 1719

트럼프가 다리오 아모데이를 겨냥한 이유

트럼프의 발언은 앤트로픽 CEO 다리오 아모데이가 가장 성능이 높은 AI 시스템의 발전 속도를 의도적으로 늦추자고 촉구한 뒤 나왔다. 출발점부터 다르다. 트럼프는 미국의 기술 우위 유지에 방점을 찍었고, 아모데이는 모델의 능력이 효과적인 안전 관행과 감독 체계보다 더 빠르게 발전할 수 있다고 우려했다. 17

트럼프는 이미 기업에 적용할 형사·규제 권한이 상당하다고 주장하면서, 강한 대통령의 판단이 필요한 안전장치라고도 말했다. 따라서 그의 아모데이 비판에는 실존적 위험 경고에 대한 회의와 함께, 공식적 제한이 중국 기업 대비 미국 기업의 경쟁력을 떨어뜨릴 수 있다는 우려가 함께 담겼다. 1921

‘프런티어의 속도를 조절해야 한다’는 제안

아모데이가 제안한 것은 AI 연구의 중단이 아니다. 그의 3단계 계획은 안전 연구·시험·거버넌스가 따라잡을 시간을 확보할 만큼, 통제되지 않은 역량 향상 속도를 늦추자는 내용이다.

1. 프런티어 AI 연구소 내부의 상설 독립 평가자
   앤트로픽은 제3자 평가자에게 자사 시스템에 대한 상시적이고 직원 수준의 접근 권한을 주겠다고 밝혔다. 이들은 안전 조치 준수 여부를 검증하고, 사고를 보고하며, 훈련 과정에서 모델의 정렬(alignment·의도한 목표와 행동이 일치하는지)을 평가하는 역할을 맡는다. 16

2. 프런티어 AI 기업 간 공조
   선도 연구소들이 단지 더 빠른 성능 향상을 경쟁하기보다, 공동의 안전 기준과 통제되지 않은 개발에 대한 한계를 마련하자는 구상이다.

3. 국제 협력
   아모데이는 가장 심각한 AI 위험을 관리하려면 결국 한 국가나 한 진영을 넘어선 협력이 필요하다고 봤다.

특히 첫 번째 항목은 정부나 경쟁사에 요구하는 제안에 그치지 않았다. 앤트로픽은 이를 즉시 일방적으로 이행하겠다는 약속으로 제시했다. 16

다른 AI 업계 수장들의 반응

오픈AI의 샘 올트먼 CEO는 프런티어의 속도를 조절해야 한다는 데 동의하며, 오픈AI도 외부 평가자에게 접근 권한을 제공하겠다고 밝혔다. xAI를 이끄는 일론 머스크 역시 아모데이의 견해에 동의한다고 했다.

마이크로소프트의 사티아 나델라 CEO는 신중한 속도 조절과 상주형 평가자 구상을 환영하면서도 중요한 조건을 덧붙였다. 감독 체계가 소수 기업만의 통제 아래 있어서는 안 되며, 여러 국가·학계·분야가 폭넓게 참여해야 한다는 것이다. 그는 초지능을 추구하더라도 인류에 도움이 되고 인간의 통제 아래 있어야 한다고 강조했다.

이런 반응이 완성된 공동 규제 체제를 뜻하는 것은 아니다. 다만 몇몇 주요 업계 인사들이 최고 수준 AI 시스템에 대한 더 지속적이고 제도화된 검증에 공감하고 있음을 보여준다.

중국과 ‘혼자만 늦출 수 있나’라는 문제

전 앤트로픽·오픈AI 연구원 제이컵 콕슨은 이런 시스템을 만드는 사람들이 인류의 미래를 두고 “진심으로 두려워하고 있다”고 말했다. 그는 감속 구상을 환영하면서도 중국과의 공조가 필요하다고 지적했다. 1

이것이 논쟁의 핵심 난제다. 한 기업이나 한 국가만 속도를 줄이면, 속도를 줄이지 않는 경쟁자에게 뒤처질 수 있다는 불안이 생긴다. 중국 외교부는 아모데이가 중국의 AI 역량을 제한해야 한다고 주장한 데 반발하며, 이를 중립적인 안전 거버넌스가 아니라 중국을 견제하려는 미국의 시도로 받아들였다. 4

결국 신뢰의 문제다. 안전론자들은 상호적인 규칙이 위험을 낮출 수 있다고 보지만, 반대쪽은 같은 규칙을 상대의 기술 우위를 고착하는 수단으로 볼 수 있다.

‘안전’이 기존 강자의 진입장벽이 될 수 있다는 비판

투자자 마이클 버리는 AI 감속 운동을 “자기 이익을 위한 것”이라고 비판했다. 개발 속도를 늦추고 규제 준수 부담을 키우면, 이를 감당할 자원이 있는 기존 AI 기업에는 유리하고 후발 주자의 경쟁은 어려워질 수 있다는 논리다. 그는 현재의 대규모 언어 모델(LLM)이 범용인공지능(AGI)으로 가는 경로라는 견해에도 이의를 제기했다.

이 비판이 AI 안전 우려 자체를 반증하는 것은 아니다. 다만 프런티어 개발을 안전하게 만들기 위한 규칙이 시장 지배력까지 강화할 수 있다는 정책적 위험을 제기한다. 설득력 있는 틀이라면 안전성과 권력 집중 문제를 함께 다뤄야 한다.

9월 24일 예정된 트럼프·시진핑 회담이 중요한 이유

트럼프 대통령과 시진핑 중국 국가주석은 9월 24일로 예정된 회담에서 AI 거버넌스 등을 논의할 것으로 예상됐다. 4 이 회담이 주목받은 이유는 프런티어 AI 안전 전략의 가장 어려운 과제가 한 연구소에 적용할 규칙을 쓰는 일이 아니라, 경쟁 관계의 강대국들이 상호적이고 집행 가능하다고 믿을 장치를 만드는 일이기 때문이다.

트럼프의 중국 우선 경쟁 구도와 중국 측의 제한 반발은 그 합의가 얼마나 어려운지를 보여준다. 따라서 이 논쟁은 단순히 ‘멈출 것인가, 가속할 것인가’의 선택을 넘어선다. 안전 정책이 지정학적 경쟁의 또 다른 전선이 되지 않으면서도 AI 경쟁을 관리할 수 있는지가 핵심이다. 174