Harvey xây dựng Tenet trên nền Kimi K3: Khi công ty AI pháp lý muốn tự làm chủ mô hình

Harvey xây dựng Harvey Tenet vì hai áp lực rất thực tế: hệ thống AI pháp lý cần làm tốt hơn những công việc kéo dài hàng giờ hoặc nhiều ngày, đồng thời công ty muốn kiểm soát chặt hơn chi phí và hành vi của mô hình đứng sau sản phẩm. Thay vì huấn luyện một mô hình nền tảng hoàn toàn mới, Harvey đã hậu huấn luyện mô hình có trọng số mở Kimi K3 của Moonshot AI bằng dữ liệu pháp lý và phản hồi từ luật sư.

Bài toán Harvey muốn giải quyết

Nhiều công việc pháp lý không dừng ở dạng hỏi–đáp đơn giản. Rà soát hợp đồng, thẩm định doanh nghiệp, phân tích bằng chứng hay hỗ trợ tranh tụng có thể yêu cầu AI duy trì ngữ cảnh, đưa ra quyết định qua nhiều bước và xử lý cả một kho tài liệu lớn. Harvey thiết kế Tenet cho những quy trình tác vụ dài, có tính tự chủ — tức các công việc có thể mất hàng giờ hoặc nhiều ngày thay vì vài giây.

Động lực kinh tế cũng quan trọng không kém. Trước Tenet, Harvey dựa vào các mô hình nền tảng của bên thứ ba và phân luồng từng loại tác vụ đến những hệ thống của Anthropic, OpenAI hoặc Google. Sở hữu một mô hình chuyên biệt giúp Harvey có thêm phương án cải thiện hiệu suất trên các tác vụ cốt lõi và giảm phụ thuộc vào API của các nhà cung cấp bên ngoài.

Tenet được huấn luyện như thế nào?

Tenet không phải là một mô hình nền tảng đa dụng mới được huấn luyện từ con số không. Đây là mô hình chuyên biệt được phát triển từ một nền tảng có trọng số mở — được các nguồn đưa tin xác định là Kimi K3 của Moonshot AI — sau đó tiếp tục huấn luyện cho khả năng suy luận pháp lý.

Quy trình được báo cáo sử dụng kết hợp:

• tài liệu pháp lý công khai;
• các tác vụ pháp lý tổng hợp và tranh chấp mô phỏng;
• hồ sơ vụ việc giả lập và tình huống hợp đồng; तथा
• các ví dụ do luật sư và chuyên gia pháp lý tạo ra, xem xét hoặc chấm điểm.

Yếu tố cuối cùng đặc biệt quan trọng. Chuyên môn pháp lý không chỉ nằm trong các văn bản, mà còn bao gồm khả năng đánh giá một cách diễn giải, chiến lược đàm phán hoặc chuỗi phân tích nhiều bước có hợp lý hay không. Việc luật sư xây dựng tình huống và đánh giá đầu ra giúp Harvey tạo dữ liệu huấn luyện và kiểm thử gần hơn với tiêu chuẩn của công việc pháp lý thực tế.

Harvey nói gì về hiệu suất của Tenet?

Harvey mô tả Tenet đạt hiệu suất ở “cấp độ tiên phong” trên những bộ tiêu chuẩn pháp lý nổi bật và hoạt động ngang hàng với các mô hình đa dụng hàng đầu trong những công việc liên quan.

Trong bản cập nhật kỹ thuật của mình, Harvey cho biết Tenet hoàn thành gần gấp đôi số tác vụ kiểm tra giữ lại của Legal Agent Benchmark so với mô hình nền Kimi K3, đồng thời hoàn thành nhiều hơn 20% số tác vụ trên LAB Contracts. Công ty cũng báo cáo tỷ lệ hoàn thành tất cả yêu cầu trong một tác vụ tăng 9 điểm phần trăm trên LAB và 2 điểm phần trăm trên LAB Contracts.

Một thông báo riêng của công ty trình bày mức cải thiện tương đối là 82% trên LAB và 22% trên LAB Contracts, đồng thời cho biết Tenet đứng đầu ở LAB Contracts và đứng thứ hai chung cuộc trên LAB.

Tuy nhiên, những con số này nên được hiểu là kết quả benchmark do công ty công bố, không phải bằng chứng cho thấy Tenet luôn chính xác hơn các mô hình đóng hoặc đáng tin cậy trong mọi hệ thống pháp luật và mọi loại vụ việc. Dữ liệu hiện có chủ yếu là thông báo của Harvey và các bài viết dựa trên thông báo đó; chưa có đủ cơ sở để khẳng định độ chính xác trong thực tế qua đánh giá độc lập.

Từ công ty tích hợp mô hình đến công ty sở hữu mô hình

Trước Tenet, chiến lược sản phẩm của Harvey chủ yếu tập trung vào lớp ứng dụng. Công ty tùy chỉnh prompt, quy trình và cơ chế phân luồng, trong khi sử dụng các mô hình độc quyền do nhà cung cấp bên ngoài vận hành. Cách tiếp cận này cho phép tiếp cận các hệ thống mạnh mà không phải tự xây dựng và vận hành toàn bộ hạ tầng mô hình.

Tenet thay đổi vị trí của mô hình trong hệ thống công nghệ Harvey:

• Cách cũ: điều phối hoặc tùy chỉnh các mô hình đóng thông qua nhà cung cấp bên ngoài.
• Cách mới: bắt đầu từ trọng số mô hình đã được phát hành, hậu huấn luyện trên các tác vụ pháp lý và đưa mô hình chuyên biệt vào sản phẩm của Harvey.

Đây không chỉ là khác biệt về kỹ thuật. Khi có quyền tiếp cận trọng số, Harvey tự do hơn trong việc điều chỉnh mô hình theo dữ liệu, tiêu chí đánh giá và quy trình sản phẩm của mình. Công ty cũng có thể tự quyết định về hạ tầng phục vụ và tối ưu hóa, thay vì trả phí cho nhà cung cấp mô hình qua một API đóng theo từng yêu cầu.

“Hậu huấn luyện” nghĩa là gì?

Hậu huấn luyện là quá trình huấn luyện bổ sung sau khi mô hình đã hoàn tất giai đoạn huấn luyện tổng quát ban đầu. Thay vì dạy mô hình năng lực ngôn ngữ cơ bản từ đầu, nhà phát triển sử dụng ví dụ được tuyển chọn, phản hồi của chuyên gia, tác vụ tổng hợp và các bài đánh giá dựa trên kết quả để cải thiện một năng lực hoặc hành vi cụ thể.

Trong trường hợp Tenet, năng lực mục tiêu là suy luận pháp lý trong các tác vụ kéo dài và có nhiều bước. Theo Harvey, quy trình sử dụng dữ liệu tổng hợp, dữ liệu pháp lý công khai và dữ liệu do chuyên gia tạo ra để huấn luyện cũng như kiểm tra cách mô hình xử lý các tình huống pháp lý, sau đó đo lường kết quả trên những tác vụ không được dùng trong huấn luyện.

Với một công ty AI chuyên ngành, cách làm này có thể hiệu quả hơn so với việc tự xây dựng một mô hình tiên phong mới. Mô hình nền cung cấp năng lực ngôn ngữ và suy luận tổng quát; phần hậu huấn luyện tập trung nguồn lực vào những quy trình mà khách hàng thực sự sử dụng.

Vì sao trọng số mở có thể giúp chuyên biệt hóa và kiểm soát chi phí?

Mô hình có trọng số mở công khai các tham số số học để tổ chức có thể tự vận hành và điều chỉnh, khác với mô hình đóng chỉ được truy cập qua API do nhà cung cấp kiểm soát. Việc Kimi K3 phát hành trọng số đã cho Harvey một nền tảng có thể trực tiếp thích nghi với công việc pháp lý.

Quyền kiểm soát này có thể hỗ trợ độ chính xác được nhắm mục tiêu tốt hơn. Doanh nghiệp có thể liên tục huấn luyện và đánh giá mô hình dựa trên tài liệu, chuỗi tác vụ và tiêu chí chất lượng riêng của ngành hoặc khách hàng. Điều đó không tự động khiến mô hình tốt hơn mọi mô hình đóng, nhưng giúp doanh nghiệp có nhiều tự do hơn để tối ưu cho một trường hợp sử dụng hẹp và cụ thể.

Trọng số mở cũng có thể thay đổi bài toán kinh tế của quá trình suy luận. Doanh nghiệp có thể tự lựa chọn phần cứng, phần mềm phục vụ và kỹ thuật tối ưu, thay vì trả tiền cho nhà cung cấp mô hình đóng qua từng token. Dù vậy, mô hình không miễn phí để vận hành: chi phí điện toán, phần cứng, kỹ thuật, bảo mật và bảo trì vẫn có thể rất lớn.

Với các tác tử pháp lý phải xử lý nhiều bộ tài liệu hoặc hoạt động trong thời gian dài, giảm chi phí cho từng lượt vận hành có thể giúp những quy trình liên tục và nhiều bước trở nên khả thi hơn về mặt thương mại. Đó là logic kinh doanh đằng sau việc kết hợp một mô hình nền đủ mạnh với quá trình hậu huấn luyện chuyên ngành.

Bước đi này nói gì về thị trường AI?

Lựa chọn của Harvey là một ví dụ đáng chú ý cho sự thay đổi trong lĩnh vực AI chuyên ngành. Các công ty phát triển ứng dụng không nhất thiết phải cạnh tranh bằng cách huấn luyện mô hình đa dụng lớn nhất. Họ có thể tạo khác biệt nhờ dữ liệu chuyên biệt, phản hồi của chuyên gia, hệ thống đánh giá, thiết kế quy trình, năng lực triển khai và niềm tin của khách hàng.

Việc chọn Kimi K3 cũng có ý nghĩa chiến lược. Nó cho thấy một công ty phương Tây có thể xem mô hình có trọng số mở của Trung Quốc như một phần hạ tầng kỹ thuật, trong bối cảnh các phòng thí nghiệm AI hàng đầu vẫn cạnh tranh gay gắt về địa chính trị và thương mại. Sức hấp dẫn ở đây không phải bằng chứng rằng mô hình Trung Quốc vượt trội trên mọi phương diện. Vấn đề là khả năng tiếp cận, tùy biến và tiềm năng giảm chi phí phục vụ có thể quan trọng hơn vị trí trên các benchmark đa dụng khi doanh nghiệp chỉ cần tối ưu một sản phẩm phục vụ ngành cụ thể.

Điều cần nhớ là trọng số mở chỉ chuyển giao quyền kiểm soát, chứ không xóa bỏ mọi chi phí và rủi ro. Doanh nghiệp vẫn cần hạ tầng để chạy mô hình, chuyên môn để đánh giá, cùng các biện pháp bảo vệ dữ liệu pháp lý nhạy cảm. Vì vậy, Tenet không hẳn là sự phủ nhận các mô hình đóng; đúng hơn, đây là một canh bạc rằng việc sở hữu mô hình chuyên biệt đang trở nên khả thi — và có giá trị chiến lược — đối với các công ty phần mềm doanh nghiệp.