미 당국 “중국 AI 기업 6곳, 미국 최첨단 모델서 수십억 토큰 추출” 주장

미 국가안보국(NSA)·사이버보안 및 인프라 보안국(CISA)·연방수사국(FBI)은 중국 기반 AI 기업 6곳이 미국 기업의 최첨단 모델에서 독점 기능과 역량을 산업 규모로 추출하는 지식 증류 캠페인을 벌였다고 주장했다. 당국은 이를 일반적인 연구·개발 보조 수단이 아니라 해당 기업들의 AI 개발 전략에서 핵심적 역할을 한 활동으로 규정했다. 다만 이는 공동 권고문의 주장이며, 사법 절차로 확정된 사실은 아니다.12

공동 권고문이 주장한 방식

권고문에 따르면 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, Z.AI는 적어도 2024년 말부터 Claude, GPT, Gemini, Grok 계열 모델을 상대로 수백만 건의 상호작용을 수행해 수십억 토큰을 추출한 것으로 지목됐다. 미 당국은 이 활동이 중국 정부의 인지 아래 이뤄졌을 가능성도 언급했다.1

당국이 열거한 접근 경로는 모델 사업자의 자체 API, 원격 클라우드 사업자, 고객 메타데이터를 가릴 수 있는 제3자 API 집계 서비스다. 또 지리적 제한, 안전장치, 서비스 약관, 추적 가능성을 우회하기 위한 프록시형 ‘전송 스테이션(transfer station)’ 서비스도 거론됐다.1

이 밖에 권고문은 다음과 같은 행위를 주장했다.1

• 프리미엄 구독의 대량 구매 및 공유
• 차단될 경우 다른 접속 경로로 자동 전환하는 우회 체계
• 모델의 추론 과정(체인 오브 소트) 추출 시도
• 모델 답변의 방어적 변경을 찾아내기 위한 평가 시스템 운용

제공된 자료는 회색지대 ‘전송 스테이션’의 존재는 뒷받침하지만, 질문에서 언급된 특정 전자상거래 플랫폼의 이름까지 독립적으로 확인하지는 못한다.

기업별로 제기된 주장

DeepSeek: R1·V3용 합성 학습 데이터 구축 의혹

미 당국은 DeepSeek가 2024년 말부터 R1과 V3 개발을 위한 합성 학습 데이터를 만들기 위해 조직적인 캠페인을 진행했다고 주장했다. 목표는 추론, 특정 분야 지식, 전문 기능을 확보해 연구 및 컴퓨팅 비용을 낮추는 것이었다.1

권고문에는 법률 전문화 최적화, API 규칙 기반 과제, 체인 오브 소트 초안 작성, 에이전트 기능, 질의응답 최적화, 코칭·비서 기능, 기능 생성 최적화, 지도 미세조정 최적화, 창작·직업 문서 작성 최적화 등이 세부 목표로 열거됐다.1

당국은 DeepSeek가 Claude·Gemini·GPT·Grok 계열 모델의 출력을 활용했다고 주장했으며, DeepSeek가 공개한 560만 달러의 학습 비용 수치에는 이른바 증류로 확보한 데이터의 비용 또는 가치가 반영되지 않았다고 평가했다.1

Moonshot AI: Kimi 모델 개발에 특정 데이터 활용 주장

Moonshot AI에 대해서는 2025년 중반부터 광범위한 캠페인이 있었다는 주장이 제기됐다. 권고문은 Kimi-K3에 상당량의 Claude Fable 5 데이터가, Kimi-K2에는 GPT-4o 데이터가 사용됐다고 적시했다.1

당국은 Moonshot AI가 지도 미세조정, 강화학습, 소프트웨어 엔지니어링, 수학 역량을 확보하려 했다고 주장했다.1

Alibaba·MiniMax·StepFun·Z.AI

권고문은 Alibaba가 Qwen 계열 모델 개선을 위해 산업 규모의 증류를 수행했다고 주장했다.1

MiniMax, StepFun, Z.AI 역시 미국 모델을 대상으로 한 악의적 증류 활동에 관여했다고 명시됐다.1 다만 제공된 근거에는 MiniMax에 대해 특정 캠페인, 대상 모델 또는 세부 역량을 별도로 연결한 내용은 없다.

AI 기업에 제시된 3가지 대응책

공동 권고문은 모델 개발사와 관련 생태계에 세 가지 즉각적 조치를 권고했다.1

1. 이상 징후 탐지와 완화
   악성 프롬프트, 계정, 네트워크, 이용 행태를 식별하고, 비정상적으로 높은 구독 대비 사용량, 신규 계정의 즉각적인 최대 사용량, 기업 규모의 처리량 등을 감시하라는 내용이다.1

2. 의심스러운 추출 시도에는 응답을 선택적으로 변경
   추출 시도가 의심될 때 모델 응답을 미묘하게 조정해 증류에 활용할 가치를 낮추되, 탐지 방법 자체가 드러나지 않도록 하라는 권고다.1

3. 생태계 전반의 정보 공유
   모델 사업자, 클라우드 플랫폼, API 집계 사업자가 활동 정보를 연계해 여러 사업자와 경로에 분산된 캠페인을 드러내야 한다는 제안이다.1

CISA의 별도 협업 지침도 정부 및 산업 파트너와 AI 관련 사이버보안 정보를 자발적으로 공유하는 방식을 지원한다.4

자료에서 확인되지 않은 부분

제공된 핵심 정부 자료만으로는 중국 정부나 마오닝 중국 외교부 대변인의 공식 반응, 스콧 베선트 미 재무장관의 제재·수출통제 대상 명단(Entity List) 관련 구체적 발언, 9월 중순으로 예정된 미·중 AI 안전 대화와 이번 사안의 직접적 연관성을 확인할 수 없다. 중국과 미국 모델 간 성능 격차가 좁혀지고 있다는 주장이나 구글이 1억 건 이상 프롬프트의 캠페인을 확인했다는 내용 역시 이 자료만으로는 독립적으로 뒷받침되지 않는다.