중국 AI 경쟁의 다음 승부처는 ‘더 큰 모델’ 아닌 ‘더 잘 돌아가는 에이전트’

중국 AI 산업의 경쟁 구도가 바뀌고 있다. 이제 질문은 ‘누가 가장 큰 기반 모델을 학습시키는가’에만 머물지 않는다. 소프트웨어, 통신, 제조, 소비자 서비스에 연결된 AI 에이전트를 얼마나 많은 이용자와 업무에, 얼마나 싸고 빠르며 안전하게 돌릴 수 있는지가 새 시험대가 되고 있다.

AI 에이전트는 단순히 한 번 답변하는 챗봇보다 많은 일을 수행한다. 필요한 정보를 찾고, 외부 소프트웨어 도구를 호출하며, 여러 단계의 업무를 실행한 뒤 결과를 검증하고 다시 시도할 수 있다. 업무 자동화의 폭은 넓어지지만, 그만큼 컴퓨팅 자원과 운영 복잡성도 크게 늘어난다.

학습보다 추론이 커지는 시장

중국전신(차이나텔레콤) 연구원은 2029년 중국 컴퓨팅 파워 시장에서 추론(inference) 수요의 비중이 80%에 이를 것으로 전망했다. 모델 학습 수요를 넘어선다는 예측이다. 같은 연구는 향후 2~3년 동안 에이전트가 중국의 컴퓨팅 수요를 연간 약 10배 가까이 키울 수 있다고 내다봤다. 이는 관측된 결과가 아니라 전망치지만, AI 인프라의 무게중심이 어디로 움직이는지를 보여준다. 59

추론은 학습을 마친 모델이 사용자의 요청에 응답하거나 작업의 한 단계를 처리할 때 수행하는 연산이다. 에이전트가 보편화되면 한 번의 질의응답으로 끝나지 않는다. 정보 검색, 도구 사용, 다단계 실행, 결과 검증이 반복되면서 추론 수요가 누적된다.

중국의 연간 토큰 소비량은 2026년 100경(10¹⁷) 토큰, 2030년에는 3,500해(10²¹) 토큰을 넘을 수 있다는 추정도 나왔다. 이 역시 예측치이지만, 모델을 한 번 학습하는 일 못지않게 모델을 계속 서비스하는 능력이 전략적으로 중요해질 수 있음을 시사한다. 6

AI의 비용 구조가 ‘운영비’ 중심으로 바뀐다

최첨단 모델 학습은 대체로 대규모 인프라를 한 시점에 투입하는 자본지출 성격이 강하다. 반면 에이전트 배포는 지속적인 서비스 운영이다. 모델 추론뿐 아니라 데이터 검색, 네트워크, 저장장치, 모니터링, 사람의 검토·개입에 비용이 반복적으로 든다.

따라서 에이전트의 성패는 모델의 벤치마크 점수만으로 판단하기 어렵다. 실제 업무에서 너무 느리거나, 실행 비용이 높거나, 기업 시스템에 맡기기에는 불안정하다면 상품성이 떨어진다. 핵심 지표는 결국 완료된 업무 한 건당 비용과 품질이 된다.

기업과 AI 제공업체가 특히 신경 써야 할 지점은 다음과 같다.

• 과업을 안전하게 수행할 수 있는 범위에서 가장 작은 모델 선택하기
• 작업에 맞춰 모델과 도구를 적절히 연결·분배하기
• 캐싱과 효율적 서빙으로 반복 연산 줄이기
• 신뢰할 수 있는 업무 특화 데이터를 에이전트에 연결하기
• 모델 답변뿐 아니라 도구 사용과 업무 흐름 전체를 시험하기
• 장애, 접근 권한, 감사 기록을 지속적으로 점검하기
• 고위험 판단이나 실행 단계에서는 사람이 개입할 수 있도록 설계하기

이는 최첨단 모델 학습의 가치가 사라진다는 뜻은 아니다. 학습 역량은 성능, 기술 자립성, 고급 모델 접근성에 여전히 중요하다. 다만 성능 있는 모델이 널리 공급될수록, 실제 시스템에 연결한 추론을 값싸고 안정적으로 유지하는 실행력이 더 어려운 차별화 요소가 될 수 있다.

중국 정책의 초점은 ‘모델 전시’보다 현장 확산

중국 정부의 정책 방향도 단독 모델보다 반복 가능한 적용 사례의 확산에 맞춰져 있다. 중국 공업정보화부는 ‘AI+소프트웨어’ 계획에서 2028년까지 AI 기반 프로그래밍 도구를 주요 소프트웨어 기업 2만 곳 이상으로 확대하고, 핵심 산업에서 에이전트 기반 소프트웨어 모범 응용 100건과 고품질 오픈소스 프로젝트 최소 5건을 육성하겠다고 밝혔다. 3

2030년까지의 방향은 핵심 소프트웨어 시스템의 지능화 고도화와 더 안전한 소프트웨어 생태계 구축이다. 37 공업정보화부의 ‘AI+정보통신’ 계획은 2028년까지 30개 이상의 고가치 시나리오와 대표 응용, 특화 에이전트를 마련하고 네트워크·컴퓨팅 인프라를 함께 강화하는 방안을 담았다. 17

공업정보화부와 국가데이터국의 별도 이니셔티브 역시 산업별 고가치 AI 적용 시나리오, 특화 데이터셋, 특화 모델 또는 에이전트를 요구한다. 자율 계획과 실행이 필요한 경우에는 에이전트를 구축하고, 산업 모델과 에이전트에 맞춘 평가 데이터셋·평가 체계도 만들도록 했다. 18

정책의 의도는 재사용 가능한 업무 시나리오, 데이터, 소프트웨어 도구, 참조 배포 사례를 마련해 산업 전반의 도입 속도를 높이는 데 있는 것으로 읽힌다. 다만 시범사업 수가 아니라 안전성·경제성·지속 가능성을 갖춘 실제 운영 성과로 성공을 판별해야 한다는 과제도 남는다.

투자 규모가 키우는 실행 경쟁

중국전신 연구원 분석을 인용한 보도에 따르면, 중국 기술 기업들의 올해 AI 지출은 약 6,000억 위안에 이를 전망이다. 다만 공개 보도마다 ‘AI 지출’의 범위가 다를 수 있어, 이 수치는 표준화된 통계라기보다 추정치로 볼 필요가 있다. 9

중국은 2026~2030년 제15차 5개년 계획 기간 말까지 AI 관련 산업 규모가 10조 위안을 넘을 것으로 기대하고 있다. 45 이는 에이전트를 단순한 클라우드 서비스가 아니라 산업 고도화, 소프트웨어 개발, 통신, 소비자 서비스에 쓰이는 기반 계층으로 배치하는 구상이다.

유럽도 컴퓨팅 인프라를 늘리지만, 관건은 활용이다

유럽연합(EU)은 자체 인프라 대응에 나섰다. 유럽연합 집행위원회는 최대 7곳의 AI 기가팩토리 설립을 위한 공모를 시작했으며, EU와 회원국 재원 최대 100억 유로의 지원을 바탕으로 민간 투자 최소 200억 유로를 유치한다는 계획이다. 50

이는 유럽의 컴퓨팅 역량과 기술 주권에 중요한 투자다. 그러나 데이터센터와 연산 설비를 짓는 것만으로 배포 경쟁의 답이 되지는 않는다. 해당 역량이 유럽 조직에 접근 가능하고 감당 가능한 추론 서비스, 분야별 데이터, 기존 소프트웨어와의 통합, 신뢰할 수 있는 응용으로 이어지는지가 경쟁력을 가를 것이다.

다음 AI 경쟁이 보상할 능력

중국의 에이전트 전환은 더 넓은 세계적 흐름을 보여준다. AI 우위는 점점 더 컴퓨팅 자원을 지속적으로 유용하고 감사 가능한 업무 결과로 바꾸는 능력에 달릴 수 있다. 칩과 전력은 물론이고, 서빙 효율, 데이터 접근성, 업무 흐름 통합, 보안 통제, 평가 체계, 인간의 책임 있는 감독이 함께 중요해진다.

2029년 추론 비중 80%라는 수치는 확정된 미래가 아니라 방향을 가리키는 전망이다. 그럼에도 메시지는 분명하다. AI가 시연 단계를 넘어 일상 업무의 상시 운영으로 들어갈수록, 승자는 가장 큰 학습을 한 쪽이 아니라 에이전트를 신뢰할 만한 수준으로, 그리고 경제성 있게 운영하는 쪽일 가능성이 커진다. 56