하비는 왜 AI 모델을 빌리는 대신 중국산 키미 K3로 테넷을 만들었나

테넷은 어떻게 만들어졌나

테넷은 처음부터 훈련한 새로운 범용 파운데이션 모델이 아니다. 이미 광범위한 언어·추론 능력을 갖춘 오픈 웨이트 기반 모델을 가져와 법률 추론에 맞게 추가 훈련한 특화 모델이다. 보도에 따르면 그 기반 모델은 중국 AI 기업 문샷 AI의 Kimi K3다.

하비가 공개한 훈련 데이터와 관련 보도에 따르면 과정에는 다음과 같은 자료가 활용됐다.

• 공개적으로 이용 가능한 법률 자료
• 합성 법률 과제와 모의 분쟁
• 가상의 사건 기록과 계약 시나리오
• 변호사와 법률 전문가가 작성·검토·평가한 사례와 답변

특히 마지막 항목이 중요하다. 법률 전문성은 문서에 적힌 지식을 암기하는 것만으로 완성되지 않는다. 특정 조항의 해석이 타당한지, 협상 전략이 적절한지, 여러 단계의 분석이 논리적으로 이어지는지를 판단하는 능력도 필요하다.

변호사들이 시나리오를 만들고 모델의 결과를 평가하면 실제 법률 업무에서 요구되는 품질 기준에 가까운 훈련·평가 데이터를 만들 수 있다는 것이 하비의 접근법이다.

하비가 주장한 성능은 어느 정도인가

하비는 테넷이 주요 법률 벤치마크에서 “프런티어 수준”의 성능을 보였으며, 관련 업무에서는 선도적인 범용 모델과 대등한 수준이라고 설명했다.

하비의 기술 업데이트에 따르면 테넷은 기준 모델인 Kimi K3보다 테스트에 사용하지 않은 Legal Agent Benchmark(LAB) 과제를 거의 두 배 더 많이 완료했다. LAB Contracts에서는 완료 과제가 20% 늘었다. 모든 평가 항목을 통과한 비율인 올패스율(all-pass rate)은 LAB에서 9%포인트, LAB Contracts에서 2%포인트 상승했다고 하비는 밝혔다.

별도의 회사 발표에서는 이를 Kimi K3 대비 올패스율의 상대적 개선폭으로 환산해 LAB 82%, LAB Contracts 22%라고 제시했다. 해당 발표에 따르면 테넷은 LAB Contracts에서 1위, LAB 전체에서는 2위를 기록했다.

다만 이 수치는 하비가 발표한 벤치마크 결과로 봐야 한다. 폐쇄형 모델보다 모든 상황에서 정확하다는 뜻도, 모든 국가의 법률 체계와 사건에 안정적으로 적용된다는 뜻도 아니다. 현재 제공된 근거는 주로 하비의 발표와 이를 바탕으로 한 보도이며, 실제 법률 업무에서의 정확성을 독립적으로 검증한 결과까지 확인된 것은 아니다.

‘모델 통합자’에서 ‘모델 보유자’로

테넷 이전 하비의 전략은 애플리케이션 중심이었다. 외부 기업이 제공하는 폐쇄형 모델을 활용하면서 프롬프트, 업무 절차, 모델 라우팅을 조정해 법률 서비스에 맞추는 방식이었다. 이 접근법은 직접 거대 모델을 개발하거나 운영하지 않고도 강력한 AI를 제품에 적용할 수 있다는 장점이 있다.

테넷은 하비의 기술 스택에서 모델의 위치를 바꿨다.

• 기존 방식: 외부 공급자의 폐쇄형 모델을 조율하거나 커스터마이징
• 테넷 방식: 공개된 모델 가중치를 기반으로 법률 데이터와 평가 기준을 적용해 추가 훈련한 뒤 자체 제품에 배포

이는 단순한 기술적 차이가 아니다. 모델 가중치에 접근할 수 있으면 하비는 자체 데이터와 평가 체계, 제품 업무 흐름에 맞춰 모델을 반복적으로 조정할 수 있다. 또한 모든 요청마다 폐쇄형 API 사용료를 지불하는 대신, 서버 인프라와 추론 최적화 방식을 직접 선택할 수 있다.

포스트 트레이닝이란 무엇인가

**포스트 트레이닝(post-training)**은 모델의 광범위한 사전 학습이 끝난 뒤 특정 능력이나 행동을 강화하는 추가 훈련을 뜻한다. 언어 능력과 일반 지식을 처음부터 가르치는 대신, 엄선된 예시와 전문가 피드백, 합성 과제, 결과 기반 평가를 사용해 특정 분야의 추론 방식과 업무 수행 능력을 개선한다.

테넷의 경우 목표는 장시간 이어지는 법률 추론 작업이었다. 하비는 합성 데이터, 공개 법률 자료, 인간 전문가가 만든 데이터를 조합해 모델을 훈련하고, 별도로 확보한 평가 과제에서 성능을 측정했다고 설명했다.

이 방식은 특정 산업에 집중하는 수직형 AI 기업에 효율적일 수 있다. 범용 모델이 언어 이해와 일반 추론의 기반을 제공하면, 기업은 고객이 실제로 사용하는 문서와 업무 절차에 추가적인 훈련 자원을 집중할 수 있기 때문이다.

오픈 웨이트가 특화와 비용 관리에 유리한 이유

오픈 웨이트 모델은 AI가 학습한 수치 파라미터를 조직이 직접 확보해 실행하고 수정할 수 있는 모델을 말한다. 모델 제공업체가 통제하는 API를 통해서만 이용하는 폐쇄형 모델과 구별되는 개념이다. Kimi K3의 가중치 공개는 하비가 이를 법률 업무에 맞게 직접 조정할 수 있는 기반을 제공했다.

이런 통제권은 특정 산업이나 기업에 맞춘 정확도를 높이는 데 도움이 될 수 있다. 기업은 고객에게 중요한 문서 유형, 작업 순서, 품질 기준을 중심으로 모델을 반복 훈련하고 평가할 수 있다. 물론 오픈 웨이트라는 이유만으로 폐쇄형 모델보다 결과가 좋아지는 것은 아니다. 다만 특정한 실제 사용 사례에 맞춰 최적화할 자유가 커진다.

비용 구조도 달라질 수 있다. 자체 하드웨어, 서빙 소프트웨어, 양자화와 같은 최적화 방식을 선택하면 외부 사업자에게 토큰 단위 API 비용을 계속 지불하는 대신 운영 방식을 직접 설계할 수 있다. 그렇다고 운영비가 사라지는 것은 아니다. 컴퓨팅 자원, 서버, 엔지니어링, 보안, 유지보수에는 여전히 상당한 비용이 든다.

특히 대규모 문서 묶음을 처리하거나 오랫동안 여러 단계의 작업을 수행하는 법률 에이전트라면, 작업 한 건당 추론 비용을 낮추는 것이 서비스의 상시 실행과 상업적 확장에 중요할 수 있다. 유능한 범용 기반 모델에 도메인 특화 포스트 트레이닝을 결합하는 이유가 여기에 있다.

중국산 오픈 웨이트 모델을 선택한 의미

하비의 선택은 서구 기업이 중국 AI 기업의 오픈 웨이트 모델을 기술 인프라로 활용할 수 있음을 보여주는 사례다. 이는 중국 모델이 모든 영역에서 서구 모델보다 우수하다는 의미가 아니다. 특정 기업의 경우 범용 벤치마크 순위보다 공개된 가중치, 커스터마이징 가능성, 배포 비용이 더 직접적인 가치가 될 수 있다는 뜻에 가깝다.

AI 개발 비용과 외부 모델 사용료가 오르는 상황에서 수직형 AI 기업이 반드시 가장 큰 범용 모델을 직접 훈련해야 하는 것은 아니다. 대신 공개 모델을 기반으로 독점 데이터, 전문가 피드백, 평가 체계, 업무 설계, 배포 역량, 고객 신뢰를 결합해 경쟁할 수 있다.

다만 오픈 웨이트는 통제권을 이전할 뿐, 모든 비용과 위험을 없애주지는 않는다. 기업은 모델을 운영할 인프라와 평가 전문성, 민감한 법률 데이터를 보호할 보안 장치를 직접 마련해야 한다.

결국 테넷은 폐쇄형 모델을 완전히 버린 사례라기보다, 기업용 소프트웨어 회사가 특정 산업에 맞춘 모델을 직접 보유하는 일이 현실적이고 전략적으로 중요해지고 있다는 하비의 베팅에 가깝다.