Mistral Agentic Search biến việc tìm kiếm tài liệu doanh nghiệp thành một cuộc điều tra

Agentic Search biến quá trình đó thành một vòng lặp thích ứng. Thay vì coi kết quả đầu tiên là đáp án cuối cùng, mô hình có thể xem xét những gì đã tìm thấy rồi quyết định bước tiếp theo:

1. Search tìm tài liệu hoặc đoạn văn có khả năng liên quan.
2. Open mở một tài liệu cụ thể để kiểm tra.
3. Navigate di chuyển qua các trang, mục hoặc cấu trúc khác của tài liệu.
4. Read lấy nội dung cần thiết cùng phần bối cảnh xung quanh.
5. Grep kiểm tra chính xác từ, cụm từ, con số hoặc mẫu dữ liệu.

Mô hình có thể lặp lại các thao tác này khi thu hẹp câu hỏi. Trên thực tế, đây là một chu trình “tìm kiếm và xác minh”: tìm manh mối, kiểm tra nguồn, tìm bằng chứng liên quan rồi đối chiếu cách diễn đạt chính xác trước khi trả lời. Mô hình gọi công cụ này phù hợp với kiến trúc agent được Mistral mô tả, trong đó mô hình gọi các hàm bên ngoài trong lúc thực hiện nhiệm vụ và nhận kết quả để tiếp tục suy luận.

Vì sao vòng lặp nhiều bước hữu ích với tài liệu doanh nghiệp khó xử lý?

Có thể sửa sai sau lần tìm kiếm đầu tiên

RAG một lượt phụ thuộc nhiều vào câu truy vấn ban đầu, cách lập chỉ mục, chiến lược chia đoạn và hệ thống xếp hạng. Nếu kết quả đầu tiên có vẻ hợp lý nhưng chưa đầy đủ, mô hình có thể không bao giờ nhìn thấy bằng chứng giúp nó tự điều chỉnh. Một agent hoạt động lặp có thể đổi cách diễn đạt truy vấn, mở tài liệu khác hoặc kiểm tra các mục lân cận thay vì dừng ở kết quả đầu tiên.

Giữ lại cấu trúc của tài liệu

Bảng biểu và công bố tài chính thường phụ thuộc vào tiêu đề, vị trí trang, chú thích và phần văn bản liền kề. Khi tài liệu bị chia thành các đoạn rời rạc, những mối quan hệ này dễ bị che khuất. Các thao tác điều hướng và đọc có mục tiêu cho phép mô hình đi qua tài liệu thay vì coi mỗi đoạn là một mảnh văn bản độc lập.

Hỗ trợ kiểm tra bằng chứng chính xác

Tìm kiếm ngữ nghĩa hữu ích để phát hiện các khái niệm liên quan, nhưng việc khớp chính xác vẫn quan trọng với tên doanh nghiệp, thuật ngữ kế toán, ngày tháng, mã định danh và các thông tin lặp lại. Công cụ kiểu grep bổ sung một phương thức để xác minh một từ hoặc mẫu cụ thể có thực sự xuất hiện trong kho dữ liệu hay không. Các hệ thống tài liệu dành cho agent khác cũng sử dụng những công cụ tương tự như search, grep, read và duyệt cấu trúc tài liệu.

Phù hợp hơn với câu hỏi xuyên nhiều tài liệu

Các câu hỏi về hồ sơ doanh nghiệp thường yêu cầu so sánh nhiều báo cáo, hoặc tìm một con số trong tài liệu này rồi xác định định nghĩa của nó trong tài liệu khác. Vòng lặp do mô hình điều khiển có thể liên tục chuyển qua lại giữa việc phát hiện và xác minh trên toàn bộ kho, thay vì chỉ dựa vào một lượt xếp hạng.

Các điểm chuẩn Mistral công bố cho thấy gì?

Mistral nhấn mạnh hai phép đánh giá tập trung vào những bài toán hỏi-đáp trên tài liệu phức tạp.

FinanceBench: từ 26,7% lên 86%

FinanceBench gồm 368 hồ sơ tài chính, tổng cộng khoảng 53.900 trang. Mistral báo cáo Mistral Medium 3.5 đạt 26,7% độ chính xác với truy xuất một lượt và 86% khi dùng Agentic Search. Đây là mức tăng 59,3 điểm phần trăm, tương đương khoảng 3,2 lần so với kết quả ban đầu.

Mistral cũng cho biết đã thử lớp truy xuất này với GLM-5.2, được tài liệu của hãng mô tả là một mô hình văn bản mã nguồn mở của bên thứ ba. Trong phép so sánh được công bố, GLM-5.2 tăng từ 6,3% với truy xuất một lượt lên 51,9% khi dùng Agentic Search.

OfficeQA Pro: tăng 45,6 điểm phần trăm

OfficeQA Pro tập trung vào các câu hỏi nhiều tài liệu, nặng về bảng biểu, dựa trên 696 tài liệu quét của U.S. Treasury Bulletin — một ấn phẩm của Bộ Tài chính Mỹ. Một thông báo của Mistral được Ina Koleva chia sẻ cho biết kết quả tăng từ 6,3% lên 51,9%, tương đương 45,6 điểm phần trăm, khi so sánh với RAG một lượt.

Những con số này đáng chú ý nhưng không phải bảo đảm hiệu năng cho mọi hệ thống. Kết quả có thể thay đổi theo chất lượng phân tích tài liệu, OCR, cách chia đoạn, lập chỉ mục, lựa chọn mô hình, prompt, giới hạn công cụ và phương pháp chấm điểm. Nghiên cứu riêng về OfficeQA Pro cũng cho thấy cách biểu diễn và phân tích tài liệu ảnh hưởng đáng kể đến độ chính xác, độ trễ, số lần gọi công cụ và chi phí.

Độ chính xác chỉ là một nửa bài toán doanh nghiệp

Mistral cho biết Agentic Search vừa cải thiện độ chính xác vừa giảm số lượt tương tác, lượng token sử dụng và độ trễ trong các điểm chuẩn được nêu. Tuy nhiên, hệ thống nhiều bước vẫn phải chờ các lệnh gọi công cụ và quá trình xử lý tài liệu hoàn tất. Một phân tích thứ cấp về kết quả FinanceBench ghi nhận độ trễ trung bình 71 giây và mức p90 là 154 giây cho toàn bộ vòng lặp; các số liệu này không xuất hiện trong đoạn trích nguồn chính của Mistral, vì vậy cần được xem xét thận trọng.

Với các nhóm triển khai sản phẩm, câu hỏi thực tế không chỉ là “agentic hay không agentic”, mà là:

• Hệ thống tìm đúng bằng chứng với tần suất bao nhiêu?
• Nó có giữ được bối cảnh trang, bảng và trích dẫn một cách nhất quán không?
• Thời gian phản hồi trung bình và trong trường hợp xấu nhất là bao lâu?
• Mỗi câu hỏi cần bao nhiêu lần gọi công cụ và bao nhiêu token?
• Quyền truy cập, lập chỉ mục, OCR và nhật ký kiểm toán có tích hợp được không?
• Quá trình xử lý tài liệu và suy luận của mô hình diễn ra ở đâu?

Truy xuất theo kiểu agent có thể giảm lượng ngữ cảnh dư thừa vì mô hình chỉ đọc phần cần thiết. Nhưng các bước suy luận bổ sung cũng có thể làm tăng độ trễ và chi phí. Thiết kế phù hợp phụ thuộc vào mức độ rủi ro và độ phức tạp của từng nhiệm vụ.

Agentic Search có mặt trong sản phẩm nào của Mistral?

Mistral cho biết Agentic Search được cung cấp qua Search Toolkit và Libraries. Các sản phẩm này nằm trong hệ sinh thái agent và tìm kiếm tài liệu rộng hơn của hãng: tài liệu Mistral liệt kê document libraries như một công cụ tích hợp để tìm kiếm các tệp đã tải lên, trong khi Agents API hỗ trợ các agent gọi công cụ trong suốt cuộc hội thoại.

Điểm đáng chú ý là Agentic Search được định vị như một thành phần truy xuất, không chỉ là một tính năng trong chatbot dành cho người dùng phổ thông. Nhờ đó, doanh nghiệp có thể đưa quy trình tìm kiếm này vào ứng dụng, agent hoặc pipeline tìm kiếm nội bộ lớn hơn.

Vì sao thiết kế không phụ thuộc một mô hình lại quan trọng?

Việc Mistral công bố thử nghiệm với cả Mistral Medium 3.5 và GLM-5.2 cho thấy định hướng linh hoạt về mô hình. Nếu lớp truy xuất và điều hướng có thể hoạt động với nhiều mô hình suy luận khác nhau, doanh nghiệp không nhất thiết phải xây dựng lại toàn bộ quy trình tài liệu mỗi khi đổi mô hình.

Khả năng này có thể hữu ích với các tổ chức phải cân đối năng lực, giá thành, giấy phép, nơi triển khai và quyền kiểm soát dữ liệu. Nó cũng làm thay đổi trọng tâm cạnh tranh: lớp truy xuất, cách biểu diễn tài liệu, phân quyền, khả năng quan sát hệ thống và chất lượng bằng chứng có thể quan trọng không kém mô hình tạo ra câu trả lời cuối cùng.

Dù vậy, tuyên bố “không phụ thuộc mô hình” vẫn cần được kiểm chứng trong từng môi trường triển khai. Hai mô hình có thể cho kết quả khác nhau vì độ tin cậy khi gọi công cụ, khả năng xử lý ngữ cảnh và chất lượng suy luận không giống nhau.

Mảnh ghép trong chiến lược doanh nghiệp và chủ quyền AI của Mistral

Agentic Search củng cố nỗ lực của Mistral trong việc bán nhiều hơn một mô hình AI độc lập. Công ty đang định vị công nghệ của mình như một lớp có thể mang đi triển khai để tìm kiếm và suy luận trên dữ liệu tổ chức nhạy cảm, từ hồ sơ tài chính đến kho tri thức nội bộ. Tài liệu về lĩnh vực tài chính của Mistral nhấn mạnh khả năng tìm kiếm theo quyền truy cập và đưa ra câu trả lời kèm bằng chứng, bối cảnh.

Định hướng này đặc biệt phù hợp với các tổ chức hoạt động trong lĩnh vực chịu quản lý, nơi họ cần kiểm soát địa điểm xử lý dữ liệu và cách bằng chứng được truy cập. Các thông tin liên quan đến Mistral mô tả khả năng triển khai trên đám mây và hạ tầng được kiểm soát, bao gồm môi trường kiểu on-premises. Tuy nhiên, khả năng triển khai linh hoạt không đồng nghĩa mọi hệ thống đều tự động đáp ứng yêu cầu tuân thủ ở mọi quốc gia hay ngành nghề.

Kế hoạch hạ tầng của Mistral bổ trợ cho câu chuyện này. Reuters đưa tin Microsoft đã đạt thỏa thuận chi hàng tỷ USD cho hạ tầng điện toán châu Âu của Mistral, đồng thời cho phép khách hàng Azure phát triển phần mềm bằng các trung tâm dữ liệu của Mistral tại Pháp. Hạ tầng đặt tại châu Âu có thể hỗ trợ yêu cầu về nơi lưu trữ dữ liệu và quyền kiểm soát vận hành, nhưng quan hệ với Microsoft cũng cho thấy “AI chủ quyền” không đồng nghĩa với việc hoàn toàn tách khỏi chuỗi cung ứng điện toán và phần cứng toàn cầu.

Bối cảnh gọi vốn phía sau đợt ra mắt

Đợt ra mắt sản phẩm diễn ra trong bối cảnh có thông tin Mistral đang đàm phán ban đầu để huy động khoảng 3 tỷ euro, với mức định giá khoảng 20 tỷ euro. Bloomberg mô tả các cuộc thảo luận vẫn ở giai đoạn sơ bộ và điều khoản có thể thay đổi.

Mức định giá được đề xuất sẽ cao hơn đáng kể so với 11,7 tỷ euro được đưa tin sau vòng gọi vốn tháng 9 năm 2025 của Mistral. Cần phân biệt giữa một cuộc thảo luận gọi vốn được đưa tin và một vòng đầu tư đã hoàn tất: các con số trên chỉ mô tả những điều khoản có thể xảy ra, chưa phải giao dịch chính thức.

Khả năng huy động vốn cũng cho thấy vì sao lớp truy xuất và hạ tầng doanh nghiệp có ý nghĩa chiến lược. Việc xây dựng các sản phẩm AI tiên tiến đòi hỏi năng lực điện toán đắt đỏ, trong khi khách hàng doanh nghiệp cần hệ thống đáng tin cậy có thể vận hành trên dữ liệu riêng. Agentic Search giải quyết một phần ở lớp ứng dụng và truy xuất; các trung tâm dữ liệu châu Âu giải quyết một phần câu chuyện hạ tầng.

Mistral đang đứng ở đâu trong cuộc đua tìm kiếm doanh nghiệp?

Mistral đồng thời cạnh tranh trên nhiều mặt trận:

• Công cụ tìm kiếm doanh nghiệp truyền thống: Agentic Search bổ sung khả năng điều tra do mô hình điều khiển vào hoạt động xếp hạng và truy xuất, nhằm tìm, kiểm tra và giải thích bằng chứng thay vì chỉ trả về danh sách tài liệu.
• RAG cơ bản: Khác biệt cốt lõi nằm ở truy xuất, điều hướng và xác minh lặp lại, thay vì chỉ thực hiện một lượt tìm kiếm vector hoặc từ khóa.
• Nhà cung cấp đám mây và nền tảng: Mistral nhấn mạnh bộ công cụ có thể kết hợp, khả năng thay đổi mô hình và lựa chọn triển khai tại châu Âu, thay vì chỉ dựa vào một trợ lý đa năng.
• Các hệ thống tìm kiếm kiểu agent khác: OpenSearch cũng mô tả quy trình trong đó mô hình tự lập kế hoạch và thực hiện truy xuất, cho thấy đây là một xu hướng rộng hơn Mistral.

Các kết quả điểm chuẩn tạo cho Mistral một điểm xuất phát mạnh, nhất là với tài liệu dài và có cấu trúc phức tạp. Nhưng lợi thế lâu dài sẽ phụ thuộc vào việc những cải thiện này có lặp lại trong các đánh giá độc lập và khối lượng công việc thực tế hay không — đồng thời Mistral có thể cung cấp chúng với độ trễ, chi phí, mức bảo mật và độ phức tạp tích hợp chấp nhận được hay không.

Kết luận

Ý tưởng chính của Mistral Agentic Search khá đơn giản nhưng có ý nghĩa lớn: truy xuất tài liệu nên là một quá trình điều tra chủ động, không phải một lần tra cứu sơ bộ. Bằng cách kết hợp tìm kiếm, mở tài liệu, điều hướng, đọc có mục tiêu và khớp từ khóa chính xác, hệ thống tạo thêm cơ hội để mô hình tìm thấy rồi xác minh bằng chứng trong những kho tài liệu doanh nghiệp khó xử lý.

Các kết quả Mistral công bố — từ 26,7% lên 86% trên FinanceBench và mức tăng 45,6 điểm phần trăm trên OfficeQA Pro — cho thấy thiết kế này có thể cải thiện đáng kể khả năng hỏi-đáp trên tài liệu. Nhưng điều kiện đi kèm cũng quan trọng không kém: đây là các kết quả gắn với đánh giá của nhà cung cấp, còn doanh nghiệp vẫn cần tự đo lường độ trễ, chi phí, quyền truy cập, chất lượng phân tích tài liệu và độ tin cậy trên dữ liệu của chính mình.