Mistral Agentic Search Mengubah Pencarian Dokumen Enterprise Menjadi Investigasi AI

Agentic Search membuat proses retrieval menjadi adaptif. Model tidak menganggap hasil pencarian pertama sebagai keputusan final, melainkan dapat menentukan langkah berikutnya:

1. Search menemukan dokumen atau bagian yang kemungkinan relevan.
2. Open membuka dokumen tertentu untuk diperiksa.
3. Navigate menelusuri halaman, bagian, atau struktur dokumen lainnya.
4. Read mengambil isi yang diperlukan beserta konteksnya.
5. Grep memeriksa kata, frasa, angka, atau pola tertentu secara tepat.

Operasi tersebut dapat diulang ketika model mempersempit pertanyaan. Hasilnya adalah siklus pencarian dan verifikasi: menemukan kemungkinan jawaban, memeriksa sumbernya, mencari bukti terkait, lalu memastikan redaksi atau angka yang tepat sebelum memberikan jawaban. Pola pemanggilan alat ini sejalan dengan arsitektur agen Mistral, ketika model memanggil fungsi eksternal dan menerima hasilnya kembali untuk melanjutkan proses penalaran.

Mengapa pendekatan ini membantu dokumen enterprise yang rumit?

Dapat memperbaiki pencarian awal yang lemah

RAG sekali jalan sangat bergantung pada kueri awal, cara dokumen dipecah menjadi potongan, indeks, dan sistem pemeringkatan. Jika hasil awal tampak masuk akal tetapi tidak lengkap, model mungkin tidak pernah melihat bukti yang diperlukan untuk mengoreksi jawabannya.

Agen iteratif dapat mengubah kueri, membuka dokumen lain, atau memeriksa bagian di sekitar hasil pertama. Model tidak harus berhenti pada kecocokan pertama yang terlihat meyakinkan.

Mempertahankan struktur dokumen

Tabel dan pengungkapan keuangan sering kali bergantung pada judul, posisi halaman, catatan kaki, serta teks di sekitarnya. Kumpulan potongan teks yang datar dapat menghilangkan hubungan tersebut.

Fitur navigasi dan pembacaan terarah memberi model cara untuk bergerak di dalam dokumen, bukan memperlakukan setiap paragraf sebagai fragmen yang berdiri sendiri.

Mendukung pemeriksaan bukti secara presisi

Pencarian semantik berguna untuk menemukan konsep yang berkaitan, tetapi pencocokan persis tetap penting untuk nama perusahaan, istilah akuntansi, tanggal, identifikasi, dan pengungkapan yang berulang. Operasi bergaya grep memberi model cara tambahan untuk memeriksa apakah istilah atau pola tertentu benar-benar muncul di dalam korpus. Sistem dokumen berbasis agen lain juga menggunakan alat serupa, seperti search, grep, read, dan penelusuran struktur dokumen.

Lebih cocok untuk pertanyaan lintas dokumen

Pertanyaan enterprise sering mengharuskan pengguna membandingkan beberapa laporan, menemukan angka di satu dokumen, lalu mencari definisinya di dokumen lain. Loop yang dipimpin model dapat berpindah antara penemuan dan verifikasi di seluruh korpus, alih-alih mengandalkan satu kali proses pemeringkatan.

Hasil benchmark yang dilaporkan Mistral

Mistral menyoroti dua evaluasi yang dirancang untuk tugas tanya-jawab berbasis dokumen kompleks.

FinanceBench: dari 26,7% menjadi 86%

FinanceBench mencakup 368 laporan keuangan dengan total sekitar 53.900 halaman. Mistral melaporkan bahwa Mistral Medium 3.5 mencapai correctness 26,7% dengan retrieval sekali jalan dan 86% dengan Agentic Search. Itu berarti kenaikan 59,3 poin persentase, atau sekitar 3,2 kali dibandingkan hasil retrieval sekali jalan.

Mistral juga melaporkan pengujian retrieval tersebut menggunakan GLM-5.2, yang dalam dokumentasinya disebut sebagai model teks open source pihak ketiga. Dalam perbandingan yang dilaporkan, hasil GLM-5.2 naik dari 6,3% dengan retrieval sekali jalan menjadi 51,9% dengan Agentic Search.

OfficeQA Pro: kenaikan 45,6 poin persentase

OfficeQA Pro berfokus pada pertanyaan lintas dokumen yang banyak melibatkan tabel, berdasarkan 696 dokumen hasil pemindaian U.S. Treasury Bulletin. Pengumuman Mistral yang dibagikan Ina Koleva melaporkan kenaikan dari 6,3% menjadi 51,9%, atau 45,6 poin persentase, dibandingkan one-shot RAG.

Angka-angka tersebut menjanjikan, tetapi bukan jaminan bahwa performa akan sama di semua lingkungan. Hasil dapat berubah bergantung pada kualitas parsing dokumen, OCR, strategi pemotongan teks, pengindeksan, pilihan model, prompt, batas pemanggilan alat, dan metode evaluasi.

Penelitian OfficeQA Pro sendiri menunjukkan bahwa representasi dan parsing dokumen berdampak besar terhadap akurasi, latensi, jumlah pemanggilan alat, dan biaya.

Akurasi bukan satu-satunya pertanyaan bagi enterprise

Mistral menyatakan bahwa Agentic Search meningkatkan akurasi sekaligus mengurangi jumlah giliran, penggunaan token, dan latensi pada benchmark yang disorot. Namun, sistem retrieval bertahap tetap harus menunggu pemanggilan alat dan pemrosesan dokumen.

Analisis sekunder terhadap hasil FinanceBench melaporkan latensi rata-rata 71 detik dan p90 sebesar 154 detik untuk loop penuh. Angka tersebut tidak tercantum dalam cuplikan sumber utama Mistral, sehingga perlu diperlakukan sebagai laporan sekunder.

Bagi tim yang hendak menerapkannya di produksi, perbandingan yang relevan bukan sekadar “agentic” versus “non-agentic”, melainkan:

• Seberapa sering sistem menemukan bukti yang benar?
• Seberapa konsisten sistem mempertahankan konteks halaman, tabel, dan sitasi?
• Berapa waktu respons rata-rata dan terburuk?
• Berapa banyak pemanggilan alat dan token yang dibutuhkan untuk setiap pertanyaan?
• Apakah izin akses, indeks, OCR, dan log audit dapat diintegrasikan?
• Di mana pemrosesan dokumen dan inferensi model berlangsung?

Retrieval agentik dapat mengurangi konteks yang terbuang karena model hanya membaca bagian yang diperlukan. Namun, langkah penalaran tambahan juga dapat meningkatkan latensi dan biaya. Desain yang tepat bergantung pada tingkat risiko dan kompleksitas tugas.

Di mana Agentic Search tersedia?

Mistral menyatakan bahwa Agentic Search tersedia melalui Search Toolkit dan Libraries. Keduanya menjadi bagian dari ekosistem agen dan pencarian dokumen Mistral. Dokumentasi perusahaan menyebut Libraries sebagai fitur bawaan untuk mencari file yang diunggah, sementara Agents API mendukung agen yang dapat memanggil alat selama percakapan.

Poin pentingnya, Agentic Search diposisikan sebagai komponen retrieval, bukan semata-mata fitur chatbot konsumen. Dengan begitu, alur pencarian dapat ditempatkan di dalam aplikasi, agen, atau pipeline pencarian enterprise yang lebih luas.

Arti penting desain yang fleksibel terhadap model

Pengujian Mistral dengan Mistral Medium 3.5 dan GLM-5.2 menunjukkan rancangan yang tidak sepenuhnya terikat pada satu model. Jika lapisan retrieval dan navigasi dapat bekerja dengan berbagai model penalaran, organisasi tidak harus membangun ulang seluruh alur dokumen setiap kali mengganti model.

Portabilitas ini dapat membantu organisasi menyeimbangkan kemampuan, harga, lisensi, lokasi deployment, dan kontrol data. Persaingan pun tidak hanya terjadi pada model bahasa. Lapisan retrieval, representasi dokumen, izin akses, observabilitas, dan kualitas bukti menjadi sama pentingnya dengan model yang menghasilkan jawaban akhir.

Meski demikian, klaim “model-agnostic” tetap perlu diuji pada setiap deployment. Sistem yang fleksibel secara teori dapat berperilaku berbeda antarmodel karena keandalan penggunaan alat, kemampuan menangani konteks, dan kualitas penalarannya tidak selalu sama.

Bagian dari strategi enterprise dan kedaulatan AI Mistral

Agentic Search memperkuat upaya Mistral untuk menjual lebih dari sekadar model AI. Perusahaan memosisikan teknologinya sebagai lapisan portabel untuk mencari dan menalar data organisasi yang sensitif, termasuk catatan keuangan dan basis pengetahuan internal. Materi Mistral untuk sektor keuangan menekankan pencarian berbasis izin serta jawaban yang dilengkapi bukti dan konteks.

Posisi ini relevan bagi organisasi teregulasi yang perlu mengendalikan lokasi pemrosesan data dan cara bukti diakses. Pelaporan terkait Mistral menyebut deployment di cloud maupun infrastruktur yang dikendalikan sendiri, termasuk lingkungan bergaya on-premises. Namun, fleksibilitas deployment tidak otomatis berarti kepatuhan terhadap semua yurisdiksi atau sektor.

Rencana infrastrukturnya mendukung narasi yang sama. Reuters melaporkan kesepakatan yang membuat Microsoft mengeluarkan dana miliaran dolar untuk infrastruktur komputasi Mistral di Eropa. Pelanggan Azure juga akan dapat mengembangkan perangkat lunak menggunakan pusat data Mistral di Prancis.

Hosting di Eropa dapat membantu kebutuhan residensi data dan kontrol operasional. Namun, hubungan dengan Microsoft juga menunjukkan bahwa “AI berdaulat” tidak berarti sepenuhnya terlepas dari rantai pasok cloud dan perangkat keras global.

Rencana pendanaan dan valuasi

Peluncuran produk ini berlangsung di tengah laporan bahwa Mistral sedang melakukan pembicaraan awal untuk menghimpun sekitar €3 miliar dengan valuasi sekitar €20 miliar. Bloomberg menggambarkan pembicaraan tersebut masih tahap awal dan dapat berubah.

Valuasi yang diusulkan akan jauh lebih tinggi daripada valuasi €11,7 miliar yang dilaporkan setelah pendanaan Mistral pada September 2025. Perlu dibedakan antara pembicaraan pendanaan yang dilaporkan dan putaran investasi yang telah selesai: angka tersebut menggambarkan kemungkinan persyaratan transaksi, bukan kesepakatan final.

Potensi pendanaan itu juga menunjukkan pentingnya retrieval dan infrastruktur bagi strategi enterprise AI. Produk AI tingkat lanjut membutuhkan komputasi mahal, sementara pelanggan enterprise menginginkan sistem yang dapat bekerja di lingkungan data mereka sendiri. Agentic Search menangani lapisan aplikasi dan retrieval; pusat data Eropa menangani sebagian dari kebutuhan infrastrukturnya.

Posisi Mistral di pasar yang semakin padat

Mistral bersaing di beberapa arena sekaligus:

• Pencarian enterprise tradisional: Agentic Search menambahkan investigasi berbasis model ke proses pemeringkatan dan retrieval. Tujuannya bukan hanya mengembalikan daftar dokumen, tetapi menemukan, memeriksa, dan menjelaskan bukti.
• RAG dasar: Pembeda utamanya adalah retrieval, navigasi, dan verifikasi berulang, bukan satu kali pencarian vektor atau kata kunci.
• Penyedia cloud dan platform: Mistral menekankan perangkat yang dapat dirangkai, fleksibilitas model, serta opsi deployment di Eropa, alih-alih hanya mengandalkan asisten serbaguna.
• Sistem pencarian agentik lain: OpenSearch juga menjelaskan alur ketika model merencanakan dan menjalankan retrieval secara otomatis. Ini menunjukkan bahwa kategori tersebut lebih luas daripada produk Mistral.

Hasil benchmark memberi Mistral pijakan awal yang kuat, khususnya untuk dokumen panjang dengan struktur rumit. Keunggulan yang bertahan lama akan bergantung pada apakah peningkatan itu muncul dalam evaluasi independen dan beban kerja produksi—serta apakah Mistral dapat menyediakannya dengan latensi, biaya, keamanan, dan kompleksitas integrasi yang dapat diterima.

Kesimpulan

Gagasan utama Mistral Agentic Search sederhana tetapi penting: retrieval seharusnya menjadi investigasi aktif, bukan sekadar pencarian pendahuluan sekali jalan. Dengan menggabungkan search, open, navigate, read, dan pencocokan istilah secara presisi, sistem memberi model lebih banyak kesempatan untuk menemukan dan memverifikasi bukti di dalam dokumen enterprise yang sulit.

Hasil yang dilaporkan Mistral—26,7% menjadi 86% di FinanceBench dan kenaikan 45,6 poin persentase di OfficeQA Pro—menunjukkan bahwa desain ini berpotensi meningkatkan kemampuan tanya-jawab berbasis dokumen secara signifikan. Namun, catatan pentingnya tetap sama: hasil tersebut terkait benchmark dari vendor, sehingga calon pengguna enterprise perlu mengukur sendiri latensi, biaya, izin akses, kualitas parsing, dan keandalan pada data mereka.