큐원은 민감한 정치 질문에 어떻게 답했나

알리바바의 큐원(Qwen)은 기업과 서비스에서 활용되는 가중치 공개형 AI 모델입니다. CBS 뉴스는 에어비앤비와 우버 같은 미국 기업도 큐원을 사용한다고 보도했습니다. 모델의 답변에서 사실이 빠지거나 특정한 관점으로 제시된다면, 그 영향이 이를 활용해 만든 서비스로 이어질 수 있다는 점에서 이번 논란은 단순한 챗봇의 정확도 문제에 그치지 않습니다. 다만 히룬도의 조사와 CBS의 확인만으로 모든 큐원 버전이 똑같이 작동한다거나, 큐원을 쓴 기업의 데이터가 알리바바나 중국 정부에 전달된다고 결론 내릴 수는 없습니다.10

히룬도는 무엇을 테스트했나

사이버보안 스타트업 히룬도는 15개 주제를 다룬 프롬프트 500개로 큐원을 시험했습니다. 히룬도 최고경영자(CEO)는 정치적으로 민감한 질문에 대해 큐원이 검열하거나, 선전과 맞닿은 프레이밍을 하거나, 정치적 편향을 드러낸 비율이 89.8%였다고 밝혔습니다. 이 발언은 뉴스맥스가 전한 내용입니다.11

이 수치는 히룬도가 보고한 테스트 결과입니다. 모든 큐원 버전과 프롬프트, 실제 배포 환경에서 같은 비율이 재현된다는 것을 독립적으로 입증한 수치는 아닙니다. 또 검열, 특정 관점에 맞춘 서술, 편향을 한데 묶은 결과이므로, 명시적으로 답변을 거부한 경우만 측정한 수치도 아닙니다.11

보도에 언급된 질문에는 1989년 톈안먼 사건과 2019년 홍콩 시위가 포함됐습니다. 히룬도 테스트에서 해당 사건을 확인하거나 인정하지 않는 답변이 나왔다는 내용이 전해졌고, CBS 뉴스도 홍콩 등 논쟁적인 주제에 대한 큐원의 답변을 보도했습니다.1115

CBS 뉴스의 별도 확인이 보여준 것

CBS 뉴스는 큐원에 민감한 주제를 직접 질문한 뒤 우려스러운 답변을 보도했습니다. 이는 히룬도가 지적한 반응이 실제 질문에서도 나타날 수 있음을 보여주는 별도의 사례입니다. 하지만 몇 가지 질문을 확인한 것만으로 모든 큐원 모델이나 기업별 배포 환경이 같은 방식으로 답한다고 볼 수는 없습니다.1015

이 구분이 중요한 이유는 편향이 꼭 “답할 수 없습니다”라는 명시적 거부로만 나타나는 게 아니기 때문입니다. 모델이 주제를 피하거나, 특정 정치적 관점을 되풀이하거나, 부정확한 답을 내놓을 수도 있습니다. 따라서 답변 거부 여부만 확인하면 사실의 누락이나 편향을 놓칠 수 있습니다.11

기업 도입과 보안 우려는 따로 봐야

CBS 뉴스는 큐원의 다운로드 수가 30억 회를 넘었으며, 에어비앤비와 우버를 비롯한 기업이 사용한다고 보도했습니다.10 기업이 모델을 고객용 기능이나 내부 도구에 적용하면 그 답변이 이용자에게 전달될 수 있습니다. 그러므로 도입을 검토할 때는 사용하려는 모델 버전과 배포 환경을 실제 업무에 맞춰 시험할 필요가 있습니다. 그렇다고 히룬도의 정치 편향 결과가 큐원을 활용하는 모든 제품에 그대로 나타난다는 뜻은 아닙니다.

정치적 편향과 데이터 보안도 구별해야 합니다. 미 하원 위원회들은 중국에서 개발된 AI 모델의 국가안보·사이버보안 위험을 조사하기 시작했으며, 조사 대상에는 에어비앤비의 큐원 사용 사례에 대한 보도도 포함됐습니다. 조사가 진행 중이라는 사실이나 제기된 우려는 큐원이 데이터 유출을 일으켰다는 증거가 아닙니다.

가중치 공개형 모델은 기업 자체 인프라에서 실행할 수 있습니다. 외부 사업자의 서비스에 데이터를 보내는 방식보다 민감한 정보에 대한 기업의 통제력이 커질 수 있지만, 자체 실행만으로 모델 답변에 내재한 편향이 사라지는 것은 아닙니다. 실제 보안 수준은 각 기업의 구체적인 구성과 데이터 흐름에 달려 있습니다.

‘편향 제거’ 주장은 검증이 더 필요

히룬도는 모델 내부 가중치를 수정해 큐원의 편향을 제거할 방법을 찾았다고 주장했습니다. CBS 뉴스는 히룬도가 이를 바탕으로 ‘서구화한’ 버전을 공개할 계획이라고 보도했습니다.10 이는 제안된 기술적 해결책에 관한 회사의 주장이지, 여러 주제와 모델 버전, 언어, 기업 업무 전반에서 효과가 안정적으로 나타난다는 독립적인 검증 결과는 아닙니다.

큐원을 검토하는 기업이라면 도입하려는 바로 그 모델과 배포 환경을 평가하는 것이 핵심입니다. 민감한 질문과 일상적인 업무 질문을 모두 시험하고, 답변에서 중요한 사실이 빠지거나 왜곡되지 않는지 확인해야 합니다. 데이터가 어디로 이동하는지와 보안 통제도 편향 평가와 별도로 살펴야 합니다. 현재까지 나온 결과는 주의 깊게 검토할 이유가 되지만, 모든 사용 환경에 대한 결론을 대신하지는 않습니다.