오픈소스 법률 AI의 진짜 위협은 Harvey·Legora의 ‘마진’이다

이미 여러 오픈소스 법률 RAG 프로젝트가 이 구조를 보여준다. Ready Tensor의 법률 문서 RAG 시스템은 PDF 업로드, 의미 기반 임베딩, FAISS 인덱싱, LLM 응답 생성을 사용한다고 설명한다 . LegalRAG는 공개·디지털화된 법률 텍스트를 벡터 데이터베이스에 넣고 맥락화된 답변을 제공하는 접근을 내세운다 . GitHub의 한 관할권 인식 법률 RAG 프로젝트는 관련 법률 문서 검색, 관할권 기반 점수화, 인용이 붙은 답변 생성을 목표로 한다 .

중요한 점은 기본적인 법률 문서 인텔리전스가 더 이상 벤처 투자를 받은 폐쇄형 플랫폼만의 영역이 아니라는 것이다. 오픈소스 시스템과 프레임워크는 계약 검토, 법률 리서치, 문서 분석, 컴플라이언스 워크플로를 겨냥하고 있다 . 다만 ‘오픈소스 법률 AI’가 항상 모델까지 모두 오픈소스라는 뜻은 아니다. 예컨대 Mike는 사용자가 Claude나 Gemini API 키를 연결할 수 있게 한다 . LexClaw는 GPT, Claude, GLM, 로컬 모델을 모두 쓸 수 있는 모델 중립적 접근을 설명한다 . 즉 많은 경우 오픈소스인 것은 워크플로 계층 또는 셀프호스팅 구조이지, 전체 스택이 완전히 개방돼 있다는 뜻은 아니다.

어디부터 흔들리나

가장 먼저 영향을 받는 영역은 난도가 비교적 낮고 반복량이 많은 업무다. 내부 기술 역량이 있는 조직이라면 라이선스 비용을 낮추고 통제권을 얻는 대신 어느 정도의 구축·운영 부담을 감수할 수 있다.

경제성도 무시하기 어렵다. 로펌이나 법무팀이 법률 AI 워크플로를 자체 호스팅하고 모델 사용료, 컴퓨팅 비용, 내부 유지보수 비용만 부담할 수 있다면, 범용 문서 채팅이나 1차 검토 기능에 높은 좌석당 요금을 계속 정당화하기 어려워진다. 그러나 라이선스 비용이 0원이라는 말이 도입 비용도 0원이라는 뜻은 아니다. Lawra는 2026년 이전의 오픈소스 대안이 청킹 파이프라인, 벡터 데이터베이스, 인용 파서, 프롬프트 오케스트레이션 등 상당한 엔지니어링 투자를 요구했다고 지적했다 . 여기에 법무조직은 보안 검토, 평가 체계, 권한 관리, 사용 정책까지 갖춰야 한다.

그래도 Harvey와 Legora의 해자는 남아 있다

Harvey와 Legora가 파는 것은 단순한 챗봇이 아니다. 대형 로펌이 승인하고, 교육하고, 업무 흐름에 붙이고, 고객에게 설명할 수 있는 관리형 기업용 제품이다.

법률 서비스에서는 이 차이가 크다. 다루는 정보가 민감하고, 결과물의 책임 소재가 중요하기 때문이다. Sacra의 한 보고서는 대형 로펌 혁신 담당자의 말을 바탕으로 일부 대형 로펌이 Harvey를 도입하는 이유 중 하나가 고객이 Harvey를 지명해 요구하기 때문이라고 설명했다 . Business Insider도 Harvey와 Legora가 보수적인 법률 산업에서 고객과 신뢰를 두고 경쟁하고 있으며, 생성형 AI 투자금이 몰리면서 빠른 AI 도입을 둘러싼 경쟁이 커지고 있다고 보도했다 .

도입 통계도 기업용 패키징의 의미를 보여준다. 2026년 한 보고서에 따르면 법률 전문가의 69%는 범용 AI 도구를 업무에 사용하고, 42%는 법률 특화 AI 도구를 사용하지만, 조직 차원에서 AI를 공식 도입한 곳은 34%에 그쳤다. 또 43%는 AI 정책이 없고 만들 계획도 없다고 답했다 . 이런 환경에서는 셀프호스팅 도구가 기술팀에는 매력적일 수 있어도, 많은 조직은 조달, 온보딩, 정책 수립, 교육, 고객 커뮤니케이션을 함께 지원하는 벤더를 선호할 가능성이 높다.

업무 범위도 관건이다. Harvey가 공개한 2026년 조사는 대형 로펌의 AI 활용이 초안 작성, 계약 협상, 실사, 디스커버리 자동화, 플레이북 생성, 일정 정리처럼 실질적이고 고객 대면적인 영역으로 넓어지고 있다고 설명한다 . 오픈소스 도구는 이 흐름의 일부를 공격할 수 있지만, 현재 공개된 근거만으로는 Harvey나 Legora 수준의 전사 배포를 이미 대체하고 있다고 보기는 어렵다.

진짜 전장은 락인이다

오픈소스의 가장 강한 전략적 주장은 가격만이 아니다. 통제권이다.

Law360은 법률 AI 조기 도입자들이 성과를 좌우하는 요소로 도구 자체보다 측정 가능한 비용 절감과 모델 간 이동 가능성, 즉 락인 회피를 중시한다고 전했다 . 이는 셀프호스팅 문서 저장소, 교체 가능한 모델, 공개 평가 도구, 특정 벤더의 로드맵에 과도하게 묶이지 않는 워크플로에 유리한 흐름이다.

따라서 오픈소스는 상용 플랫폼을 완전히 대체하지 않더라도 플랫폼의 행동을 바꿀 수 있다. Harvey, Legora 같은 벤더는 모델 선택권, 데이터 내보내기, 평가 투명성, 범용 업무용 저가 요금제에 대한 압력을 받을 수 있다. 이를 충분히 제공하지 못하면, 오픈소스 스택은 ‘직접 만들 것인가, 살 것인가’라는 의사결정에서 더 그럴듯한 대안이 된다.

직접 대체 위협이 되려면 무엇이 필요할까

오픈소스 법률 AI가 진짜 기업용 대체재가 되려면 프로젝트의 기능 주장보다 기관 단위 채택 근거가 더 많이 나와야 한다. 지켜볼 신호는 다음과 같다.

• 주요 로펌이나 규제 산업 법무조직 내부의 문서화된 배포 사례
• 감사를 거친 보안, 권한, 로그, 데이터 보존 통제
• 신뢰도 높은 인용·평가 워크플로와, 법률 RAG 평가를 겨냥한 LRAGE 같은 도구의 활용
• 문서관리, 사건관리, 계약수명주기관리(CLM), 전자증거개시(e-discovery) 시스템과의 통합
• 장애가 발생했을 때 책임지고 지원할 수 있는 운영·지원 모델

이런 신호가 뚜렷해지기 전까지 오픈소스는 ‘대체재’라기보다 강력한 압박층으로 보는 편이 정확하다. 범용 문서 AI에 대한 지불 의사를 낮추고, 모델 이동성을 구매 조건으로 끌어올리며, 비용 민감도가 높은 조직이 프리미엄 플랫폼 없이도 유용한 시스템을 만들 수 있게 한다. 반면 가장 민감하고 고객 대면적인 업무에서는 Harvey와 Legora가 여전히 브랜드 신뢰, 워크플로 패키징, 기업용 배포 능력의 이점을 가진다.

결국, 답은 ‘예, 하지만 아직은 마진부터’다

오픈소스 법률 AI는 상용 플랫폼이 문서 인텔리전스를 마법처럼 포장하기 어렵게 만들 만큼 충분히 진지해졌다. 먼저 흔들리는 것은 마진, 락인, 범용 워크플로다. 그러나 대형 로펌이 실제로 사는 제품은 모델 하나가 아니라 거버넌스, 지원, 고객 안심, 업무 통합, 평판 리스크 관리까지 포함한 묶음이다.

따라서 실무적인 결론은 이렇다. 오픈소스는 Harvey와 Legora가 법률 AI를 어떻게 가격 책정하고 포장하는지에 대한 중대한 위협이다. 하지만 이들의 가장 강한 기업용 배포를 이미 대체하는 검증된 대안이라고 보기는 아직 이르다.