중국 국가안전부장 천이신의 경고: AI 악용이 정치·제도·이념 안보를 위협할 수 있다

천이신 중국 국가안전부장은 AI를 우선 국가안보 및 정권 안보의 문제로 규정했다. 적대 세력이 AI를 이용해 중국의 정치적 안정을 흔들고, 민감 데이터를 빼내며, 핵심 인프라를 교란하고, 중국을 핵심 기술에서 배제할 수 있다는 것이다. 이는 앤트로픽의 다리오 아모데이가 제기한 ‘최첨단 AI가 인간의 통제·보안·거버넌스 역량을 앞지를 위험’과는 강조점이 다르다. 다만 양쪽 모두 더 강한 안전장치와 국제적 협력이 필요하다는 결론에는 닿아 있다. 3712

천이신이 꼽은 AI 안보 위험

중국의 인터넷 규제기관인 국가인터넷정보판공실(CAC) 계열의 공식 잡지 China Cyberspace에 실린 글에서 천이신은 AI와 관련한 6가지 안보 위험을 제시했다.

• 정치·제도·이념 안보 위협: 천이신은 적대 세력이 딥페이크 음성·영상, AI 생성 텍스트와 이미지, 자동화된 소셜미디어 계정을 활용할 수 있다고 봤다. 이를 통해 정치적 루머를 대규모로 만들고, 유해 콘텐츠를 퍼뜨리며, 사회적 갈등을 부추기고, 이른바 여론전과 인지전을 수행해 중국의 정치·제도·이념 안보를 위협할 수 있다는 주장이다. 57

• 사이버 침해와 데이터 유출: AI는 시스템 취약점 탐색과 악성코드 또는 취약점 악용 소프트웨어 제작의 비용과 기술적 문턱을 낮출 수 있다. 천이신은 이것이 정보 수집과 국가기밀, 상업적으로 민감한 무역 데이터, 개인정보의 대량 유출을 돕고 핵심 정보 인프라와 사회 관리 체계까지 위태롭게 할 수 있다고 경고했다. 31113

• 기술 주권과 공급망 의존: 천이신은 국제 AI 경쟁에서 주요국들이 국가안보를 내세워 기술 통제를 가하고, 표준을 주도하거나 독점하며, 폐쇄적·독점적 생태계를 구축하려 한다고 진단했다. 이 관점에서 AI 안전은 단지 모델의 오작동 문제가 아니라 전략적 의존, 공급망 통제, 기술 봉쇄, 외국의 개입과 떼어놓을 수 없는 문제다. 57

미국 AI 업계의 경고와는 무엇이 다른가

아모데이는 에세이 「We Must Pace the Frontier」에서 AI 발전 자체를 멈추자고 주장한 것은 아니다. 대신 모델의 성능 향상 속도를 늦춰 정렬(alignment), 보안 조치, 외부 검증이 이를 따라갈 시간을 확보해야 한다고 제안했다. 구체적으로는 최첨단 AI 기업에 직원 수준의 지속적 접근 권한을 가진 독립 평가자를 두고, 민주주의 국가들 사이에서 공통 안전 원칙을 마련하며, 궁극적으로는 권위주의 정부까지 포함하는 더 폭넓은 국제 공조를 추진하자는 구상이다. 122

오픈AI의 샘 올트먼은 직원 수준의 접근 권한을 가진 독립 평가자 도입안에 동참하겠다고 밝혔고, 일론 머스크도 AI 개발 속도를 조절해야 한다는 아모데이의 주장에 공개적으로 동의했다. 101

두 접근의 차이는 핵심 위험을 어디에 두느냐에 있다.

• 베이징의 시각은 국가 중심적이다. 정치적 안정, 중국공산당의 권위, 이념 통제, 데이터 주권, 인프라 보안, 외국의 기술적 강압으로부터의 자율성을 중시한다. 따라서 AI 기반 영향력 공작이나 외국의 중국 데이터 접근은 직접적인 국가안보 위협으로 간주된다. 57

• 실리콘밸리의 프런티어 안전 시각은 역량 중심적이다. 충분히 정렬되지 않았거나 보안이 취약한 모델이 대규모 사이버 공격, 자율적 유해 행위, 위험한 과학기술 악용, 인간의 실질적 통제력 상실을 초래하는 것을 막는 데 초점을 둔다. 주요 수단은 평가, 기술적 안전장치, 국가 간 안전 규칙이다. 122

양측의 문제의식이 완전히 충돌하는 것은 아니다. 사이버 악용, 첩보 활동, 허위정보, 군사적 활용이 위험하다는 점에는 공통분모가 있다. 그러나 누가 기준을 정할지, 안전 규칙이 전략적 기술 제한으로 작동할 가능성은 없는지, 어느 수준의 투명성과 외부 평가가 주권 및 국가안보와 양립할 수 있는지를 두고는 이견이 크다.

미·중 AI 안전 대화에 미칠 영향

보도에 따르면 9월 중순 예정된 미·중 회의는 도널드 트럼프 대통령의 두 번째 임기 들어 AI 안전만을 의제로 하는 첫 양자 대화가 될 전망이다. 4 천이신의 글은 중국이 이 자리에서 프런티어 모델의 정렬이나 재난적 위험만이 아니라 외국 개입, 데이터와 인프라 보안, 국제 표준 제정에서의 동등한 대우, 기술 봉쇄 반대까지 포함한 의제를 제기할 가능성을 시사한다. 37

그만큼 대화의 중요성은 크지만 합의는 쉽지 않을 수 있다. AI를 이용한 사이버 공격, 합성미디어 사기, 사고 보고, 군사적 위험 소통처럼 구체적 피해를 줄이는 사안은 비교적 협력이 가능할 수 있다. 반면 보편적 외부 평가나 모델 성능 제한에는 입장 차가 클 전망이다. 워싱턴이 위험 완화 장치로 보는 규칙이 베이징에는 미국의 기술 우위를 유지하는 수단으로 비칠 수 있기 때문이다.