AI 모델을 통째로 빼돌리는 일과 ‘증류’는 다르다

로 칸나 미국 하원의원은 오픈AI, 앤스로픽, 구글, 메타, 스페이스X에 중국이나 다른 적대 세력이 AI 모델 가중치에 무단 접근하려 한 정황이 있는지, 그리고 기업들이 어떤 사이버보안 대책을 마련했는지 알려 달라고 요청했습니다.713 그가 우려하는 것은 가중치가 탈취될 경우 공격자가 모델을 직접 확보해 운용할 수 있고, 미국의 AI 우위를 약화시키는 한편 국가안보 위험도 키울 수 있다는 점입니다.413

다만 이번 질의가 중국이 이들 기업의 모델 가중치를 이미 훔쳤다는 뜻은 아닙니다. 알려진 탈취 사례는 많지 않으며, 칸나가 요구한 것은 실제 침입 시도가 있었는지와 기업의 방어 체계가 무엇인지에 대한 정보입니다.6

가중치 절취와 ‘증류’는 어떻게 다른가

AI 모델 가중치는 학습 과정에서 형성되는 내부 매개변수입니다. 이를 빼내면 모델 자체를 복제해 실행할 수 있습니다. 반면 **증류(distillation)**는 원래 모델의 출력물을 이용해 별도의 모델을 학습시키는 방법입니다. 즉, 가중치를 직접 훔치는 것과는 다른 방식입니다.417

미국 당국은 딥시크·문샷AI·알리바바 등 중국 기업들이 미국 AI 모델의 출력을 활용해 자사 모델을 학습했다고 주장했습니다. 오픈AI와 앤스로픽도 중국 기업의 증류 사례를 보고한 바 있습니다. 그러나 이런 주장과 보고는 모델 가중치 자체가 탈취됐다는 사실과 구분해야 합니다.617

기업 보안에서 미중 AI 경쟁까지

칸나의 요청은 개별 기업의 보안 점검을 넘어, 첨단 AI 역량이 누구에게 확산되는지를 둘러싼 경쟁과 연결돼 있습니다. 가중치를 확보한 쪽은 원래 모델을 직접 사용할 수 있기 때문에, 탈취가 현실화되면 미국의 기술 우위와 보안에 영향을 줄 수 있다는 것이 그의 우려입니다.413

그렇다고 칸나가 미중 간 대립만 강조하는 것은 아닙니다. 그는 양국이 AI 안전 기준과 감시·검증 방안을 논의해야 한다고 주장해 왔습니다.25 다만 중국 기업의 기술 활용을 둘러싼 비난과 제재 논의가 커지면, 양국 간 AI 안전 대화가 어려워질 수 있다는 우려도 제기됐습니다.18

자율 점검에 맡길 것인가, 공적 감독을 강화할 것인가

트럼프 행정부는 고급 해킹 능력을 지닌 일부 AI 모델을 대상으로, 공개 전 정부 사이버보안 검토를 자발적으로 받도록 하는 방안을 내놨습니다. 또 주요 기술기업이 자체적으로 AI 안전을 점검하는 방식도 추진되고 있습니다. 칸나의 질의는 이런 접근과 별개로, 기업이 이미 알고 있는 침입 시도와 보안 대책을 의회에 설명하도록 요구한다는 점에서 의미가 있습니다.

하지만 자발적 검토나 기업의 자체 점검이 모델 가중치 탈취를 막는다는 점은 제공된 보도만으로 확인되지 않습니다. 어느 한 기업의 가중치가 실제로 도난당했다는 사실도 확인된 바 없습니다.71113 결국 이번 사안은 첨단 AI의 보안을 기업의 자율에 얼마나 맡길지, 정부가 어떤 방식으로 감독해야 할지에 대한 더 큰 논쟁으로 이어집니다.