트럼프·시진핑 AI 논의, 안전 규칙보다 ‘사고 연락망’에 무게

9월 24일 트럼프·시진핑 정상회담을 둘러싼 AI 논의에서 가장 분명하게 확인되는 것은 경쟁을 멈추기보다 위험한 상황에서 소통할 길을 마련하려는 움직임이다. 이런 통로는 사고가 발생했을 때 오해를 줄이는 데 도움이 될 수 있다. 하지만 현재 제시된 근거만으로 미·중이 AI 개발을 제한하거나 구속력 있는 안전 규칙에 합의했다고 보기는 어렵다.12451

논의의 출발점은 ‘중대 사고 통보’

정상회담에 앞서 스콧 베선트 미국 재무장관은 허리펑 중국 부총리와의 회담에서 미국이 AI 안전 관련 통보 체계를 제안했다고 밝혔다. 양국 정상이 검토할 안건으로, AI 사고가 국가안보상의 우려로 번질 경우 서로 알리는 대화 채널이 거론됐다. 보도에서 확인되는 것은 미국의 제안이지, 공개된 양국 공동 규칙은 아니다.13

연락망이 마련되면 한쪽에서 발생한 심각한 사건을 다른 쪽이 적대적 행동으로 오인할 위험을 줄일 수 있다. 다만 사고 통보는 문제가 생겼을 때 정보를 주고받는 장치다. 별도의 합의가 없다면 첨단 AI 모델의 출시 전 평가, 배포 제한, 독립적인 점검이나 위반 시 제재를 요구하지는 않는다.

두 정상의 발언도 ‘원칙’과 ‘의무’ 사이의 거리를 보여준다

트럼프 대통령은 새로운 AI 규제에 반대하며, 필요하다면 법무부를 비롯한 미국 법 집행기관이 개입할 수 있다고 말했다.50 회담을 앞두고는 자신이 ‘초지능’이라고 부르는 문제가 주요 의제가 될 것이라면서도 이를 “정확히 지금 상태 그대로 두고 싶다”고 적었다.22 이는 새로운 사전 규제에 소극적인 입장을 보여주지만, 중국이 그 입장에 동의했다는 증거는 아니다.

시진핑 주석은 미국과 중국에 AI를 개발하고 관리할 책임이 있으며, AI가 인간의 통제 아래 있어야 한다고 공개적으로 말했다.24 그러나 이 원칙만으로 공동의 안전성 평가 기준이나 개발 속도 조절에 합의했다고 해석할 수는 없다. 회담 전 블룸버그는 양국 어느 쪽도 AI 개발을 늦추겠다는 뜻을 내비치지 않았다고 보도했다.51

업계의 안전 요구와 의회의 반도체 통제 요구는 다르다

오픈AI의 샘 올트먼과 앤트로픽의 다리오 아모데이는 유엔 안전보장이사회에서 AI 위험에 대응할 국제 공조를 촉구했다. 아모데이는 개발 속도를 늦추고 독립적인 점검과 폭넓은 규제를 마련해야 한다고도 주장했다.1748 이는 사고를 예방하기 위한 요구이지만, 두 정부가 이를 정상회담의 합의 사항으로 받아들였다는 뜻은 아니다.

한편 척 슈머, 엘리자베스 워런 등 미국 상원 민주당 의원들은 중국에 대한 첨단 AI 반도체와 반도체 제조 장비의 수출을 더 엄격히 통제하고 관련 법안을 표결에 부치라고 요구했다.3545 경쟁국의 기술 접근을 제한하는 수출 통제와 양국 모두에 안전성 평가·배포 제한을 적용하는 공동 규칙은 목적과 방식이 다르다. 정상회담에는 무역을 비롯한 여러 전략 현안도 걸려 있었으므로, AI 안전이 회담 전체를 지배했다고 단정할 근거 역시 부족하다.34

무엇이 확인돼야 ‘안전 협력’이라고 부를 수 있나

먼저 양국이 어떤 AI 시스템과 사고를 대상으로 삼는지, 누가 언제 무엇을 보고해야 하는지 명시한 합의문이 필요하다. 사고 예방까지 약속하려면 공동 평가·배포 기준, 준수 여부를 확인할 방법, 위반에 따른 조치도 있어야 한다. 연락망의 설치와 실제 사용 기록은 운영상의 협력을 보여주겠지만, 그것만으로 구속력 있는 안전 체계가 성립하는 것은 아니다.

AI 연락망이 이미 마련됐다고 전하는 보도도 있다. 그러나 베선트와 허리펑의 논의를 가장 명확히 설명한 보도는 이를 정상들이 검토할 미국의 제안으로 제시한다.131 합의 조건과 이행 기록이 확인되기 전까지의 평가는 분명하다. 이번 논의는 구속력 있는 AI 안전 규칙의 성립보다는 경쟁 속 위기 관리와 제한적인 안전 협력의 가능성을 보여준다.