Mistral Agentic Search: waarom stap voor stap zoeken beter werkt dan klassieke RAG

Mistral Agentic Search is een retrievallaag waarmee een AI-model een verzameling bedrijfsdocumenten in meerdere stappen kan onderzoeken. In plaats van één vaste set tekstfragmenten op te halen en daar meteen een antwoord op te baseren, kan het model kandidaten zoeken, documenten openen, door hun structuur navigeren, relevante passages lezen en exacte termen of patronen controleren.

Dat verschil is vooral belangrijk bij lange financiële rapporten, gescande pagina’s, tabellen, voetnoten en vragen waarvan het antwoord verspreid staat over meerdere documenten. Mistral meldt dat de aanpak de correctheid van Mistral Medium 3.5 op FinanceBench verhoogde van 26,7% naar 86%. De test gebruikte 368 financiële dossiers met samen ongeveer 53.900 pagina’s. Dit zijn resultaten uit Mistrals eigen evaluatie: ze vormen een productbenchmark, geen onafhankelijk vastgestelde industriestandaard.

Wat verandert er ten opzichte van gewone RAG?

Bij traditionele retrieval-augmented generation, of RAG, worden doorgaans relevante tekstblokken opgehaald, worden de best gerangschikte fragmenten geselecteerd en krijgt het taalmodel die context om een antwoord te formuleren. Dat werkt goed wanneer het antwoord letterlijk in één passage staat. Het wordt minder betrouwbaar als de eerste zoekactie een relevant document mist, een tabel loskoppelt van de toelichting of te weinig omliggende context oplevert. Mistrals eigen documentzoek-workflow beschrijft standaard-RAG op vergelijkbare wijze: het model haalt relevante passages uit een geüploade documentbibliotheek.

Agentic Search maakt dat proces adaptief. De eerste zoekresultaten zijn niet automatisch het eindpunt. Het model kan zelf beslissen welke stap daarna nodig is:

1. Search zoekt naar waarschijnlijke documenten of passages.
2. Open opent een geselecteerd document.
3. Navigate beweegt door pagina’s, secties of andere documentstructuren.
4. Read haalt inhoud en omliggende context op.
5. Grep controleert exacte woorden, zinnen, cijfers of patronen.

De handelingen kunnen zich herhalen terwijl het model de vraag afbakent. Zo ontstaat een zoek- en verificatielus: eerst een mogelijke bron vinden, die bron inspecteren, aanvullende aanwijzingen zoeken en de precieze formulering controleren voordat het antwoord wordt gegeven. Dat sluit aan bij Mistrals gedocumenteerde agentarchitectuur, waarin modellen tijdens een taak externe functies aanroepen en de resultaten terugkrijgen voor verdere verwerking.

Waarom dit helpt bij lastige bedrijfsdocumenten

Een zwakke eerste zoekactie hoeft niet fataal te zijn

One-shot RAG is sterk afhankelijk van de eerste zoekopdracht, de manier waarop documenten in stukken zijn opgeknipt en de rangschikking van de resultaten. Als die eerste stap wel plausibele maar onvolledige informatie oplevert, krijgt het model vaak geen kans om zichzelf te corrigeren. Een iteratieve agent kan de zoekopdracht aanpassen, een ander document openen of omliggende secties bekijken.

De documentstructuur blijft beter behouden

Financiële tabellen en toelichtingen zijn vaak afhankelijk van koppen, paginapositie, voetnoten en tekst eromheen. Een platte verzameling tekstblokken kan die verbanden verbergen. Met navigatie en gericht lezen kan het model door het document bewegen in plaats van elke passage als een losstaand fragment te behandelen.

Exacte controles worden mogelijk

Semantisch zoeken is nuttig om verwante begrippen te vinden, maar exacte overeenkomsten blijven belangrijk bij bedrijfsnamen, boekhoudkundige termen, data, identificatienummers en terugkerende toelichtingen. Een grep-achtige functie biedt een aanvullende controle: staat een specifieke term of een bepaald patroon daadwerkelijk in de documenten? Vergelijkbare bestandsgerichte functies — zoals search, grep, read en bladeren door een documentstructuur — komen ook voor in andere agentische documentsystemen.

Vragen over meerdere documenten passen beter bij de aanpak

Een bedrijfsanalist wil bijvoorbeeld een cijfer in het ene jaarverslag vergelijken met de definitie ervan in een ander document. Een modelgestuurde zoeklus kan afwisselend informatie ontdekken en verifiëren, in plaats van alles aan één rangschikkingsronde over te laten.

Wat laten de benchmarks zien?

Mistral wijst vooral op twee evaluaties voor moeilijke documentvragen.

FinanceBench: van 26,7% naar 86%

FinanceBench omvat 368 financiële dossiers met in totaal ongeveer 53.900 pagina’s. Mistral meldt dat Mistral Medium 3.5 met single-pass retrieval een correctheid van 26,7% behaalde, tegenover 86% met Agentic Search. Dat is een stijging van 59,3 procentpunt en ongeveer 3,2 keer het oorspronkelijke resultaat.

Mistral zegt de retrievallaag ook te hebben getest met GLM-5.2, dat in de documentatie wordt omschreven als een open-source tekstmodel van een derde partij. In de gerapporteerde vergelijking steeg GLM-5.2 van 6,3% met single-pass retrieval naar 51,9% met Agentic Search.

OfficeQA Pro: 45,6 procentpunt winst

OfficeQA Pro draait om tabelrijke vragen over meerdere documenten uit 696 gescande documenten van het U.S. Treasury Bulletin. In een aankondiging die Mistral-medewerker Ina Koleva deelde, stijgt de score in de vergelijking met one-shot RAG van 6,3% naar 51,9% — een winst van 45,6 procentpunt.

De cijfers zijn veelbelovend, maar geen garantie voor elke toepassing. De uitkomst kan veranderen door documentparsing, OCR-kwaliteit, chunking, indexering, modelkeuze, prompts, tool-limieten en de evaluatiemethode. Onderzoek rond OfficeQA Pro laat bovendien zien dat documentrepresentatie en parsing een merkbare invloed hebben op nauwkeurigheid, latency, het aantal toolaanroepen en de kosten.

Nauwkeurigheid is niet de enige enterprisevraag

Mistral zegt dat Agentic Search op de genoemde benchmarks niet alleen nauwkeuriger is, maar ook minder beurten, tokens en latency gebruikt. Een meerstapszoekproces moet echter nog steeds wachten op toolaanroepen en documentverwerking. Een secundaire analyse van FinanceBench rapporteerde voor de volledige lus een gemiddelde latency van 71 seconden en een p90 van 154 seconden. Die cijfers staan niet in het primaire bronfragment van Mistral en moeten daarom als secundaire rapportage worden gelezen.

Voor organisaties draait de keuze dus niet simpelweg om ‘agentisch’ tegenover ‘niet-agentisch’. Belangrijke vragen zijn:

• Hoe vaak vindt het systeem het juiste bewijs?
• Behoudt het consequent pagina-, tabel- en broncontext?
• Wat zijn de gemiddelde en slechtste responstijden?
• Hoeveel toolaanroepen en tokens kost een vraag?
• Kunnen toegangsrechten, indexering, OCR en auditlogs worden geïntegreerd?
• Waar vinden documentverwerking en modelinferentie plaats?

Agentische retrieval kan onnodige context beperken doordat het model alleen leest wat nodig is. Tegelijk kunnen extra redeneerstappen nieuwe latency en kosten veroorzaken. De juiste inrichting hangt af van de complexiteit en het risico van de taak.

Via welke Mistral-producten is Agentic Search beschikbaar?

Mistral zegt dat Agentic Search beschikbaar is via Search Toolkit en Libraries. Die producten passen in de bredere agent- en documentzoekstack van het bedrijf. Mistrals documentatie beschrijft Libraries als een ingebouwde manier om geüploade bestanden te doorzoeken, terwijl de Agents API modellen tools laat aanroepen tijdens een gesprek.

De positionering is belangrijk: Agentic Search wordt gepresenteerd als een retrievalcomponent, niet alleen als een functie van een consumentenchatbot. Daardoor kan de zoekworkflow onderdeel worden van een bredere applicatie, agent of enterprise-searchpijplijn.

Een modelonafhankelijke retrievallaag

De tests met zowel Mistral Medium 3.5 als GLM-5.2 wijzen op een model-flexibel ontwerp. Als dezelfde retrieval- en navigatielaag met verschillende redeneermodellen kan werken, hoeven bedrijven hun documentworkflow niet noodzakelijk opnieuw te bouwen wanneer ze van model wisselen.

Dat kan relevant zijn voor organisaties die afwegen welke combinatie van prestaties, prijs, licentievoorwaarden, implementatielocatie en datacontroles het beste past. Tegelijk verschuift de concurrentie dan deels naar de retrievallaag zelf: documentrepresentatie, toegangsrechten, observability en de kwaliteit van het aangeleverde bewijs worden minstens zo belangrijk als het taalmodel dat het eindantwoord schrijft.

‘Modelonafhankelijk’ moet wel per implementatie worden getoetst. Modellen verschillen in betrouwbaarheid bij toolgebruik, contextverwerking en redeneren, waardoor dezelfde workflow in de praktijk verschillend kan presteren.

Onderdeel van Mistrals Europese AI-strategie

Agentic Search ondersteunt Mistrals poging om meer te verkopen dan alleen een taalmodel. Het bedrijf positioneert zijn technologie als een draagbare laag voor zoeken en redeneren over gevoelige organisatiedata, zoals financiële dossiers en interne kennisbanken. In de financiële toepassingen benadrukt Mistral zoeken op basis van toegangsrechten en antwoorden met bewijs en context.

Dat verhaal is vooral relevant voor gereguleerde organisaties die controle willen houden over waar data wordt verwerkt en hoe bewijs toegankelijk is. Rapportage over Mistral beschrijft inzet in de cloud en in gecontroleerde infrastructuur, waaronder on-premises-achtige omgevingen. Flexibele implementatie staat echter niet gelijk aan automatische naleving van alle regels in iedere sector of jurisdictie.

Ook de infrastructuurplannen passen in dat verhaal. Reuters meldde een overeenkomst waarbij Microsoft miljarden zou investeren in Mistrals Europese rekeninfrastructuur. Azure-klanten zouden software kunnen ontwikkelen met behulp van Mistral-datacenters in Frankrijk. Europese hosting kan helpen bij datalokalisatie en operationele controle, maar de samenwerking laat ook zien dat ‘soevereine AI’ niet betekent dat een bedrijf volledig onafhankelijk is van mondiale cloud- en hardwareketens.

De financiering achter de lancering

De productlancering kwam te midden van berichten dat Mistral in een vroeg stadium gesprekken voerde over ongeveer €3 miljard aan nieuwe financiering bij een waardering van circa €20 miljard. Bloomberg benadrukte dat de gesprekken voorlopig waren en nog konden veranderen.

Die mogelijke waardering ligt aanzienlijk boven de €11,7 miljard die na de financieringsronde van september 2025 werd gemeld. Een bericht over financieringsgesprekken moet daarbij niet worden verward met een afgeronde kapitaalronde: het gaat om mogelijke voorwaarden, niet om een definitieve transactie.

De mogelijke investering maakt ook duidelijk waarom enterprise-retrieval en infrastructuur strategisch belangrijk zijn. Frontier-AI-producten vereisen veel rekenkracht, terwijl zakelijke klanten systemen willen die betrouwbaar met hun eigen data kunnen werken. Agentic Search richt zich op de applicatie- en retrievallaag; Europese datacenters vormen een deel van het infrastructuurverhaal.

Hoe past Mistral in de markt?

Mistral concurreert tegelijk op meerdere terreinen:

• Traditionele enterprise search: Agentic Search voegt modelgestuurd onderzoek toe aan ranking en retrieval. Het doel is niet alleen documenten tonen, maar bewijs vinden, inspecteren en toelichten.
• Basis-RAG: Het onderscheid zit in iteratieve retrieval, navigatie en verificatie in plaats van één vector- of trefwoordzoekactie.
• Cloud- en platformleveranciers: Mistral legt de nadruk op samenstelbare tools, modelkeuze en Europese implementatiemogelijkheden.
• Andere agentische zoekoplossingen: OpenSearch beschrijft eveneens een workflow waarin een model retrieval automatisch plant en uitvoert. De categorie is dus breder dan Mistral.

De benchmarkresultaten geven Mistral een sterke uitgangspositie, vooral bij lange en structureel ingewikkelde documenten. Het blijvende voordeel zal afhangen van de vraag of de verbeteringen ook zichtbaar zijn in onafhankelijke evaluaties en echte productieomgevingen — en of ze worden geleverd tegen aanvaardbare latency, kosten, beveiliging en integratiecomplexiteit.

Conclusie

De kern van Mistral Agentic Search is eenvoudig maar belangrijk: documentretrieval moet een actief onderzoek zijn, geen eenmalige voorzet. Door search, open, navigate, read en grep te combineren, krijgt een model meer kansen om bewijs in complexe bedrijfsdocumenten te vinden en te controleren.

De door Mistral gerapporteerde resultaten — van 26,7% naar 86% op FinanceBench en een winst van 45,6 procentpunt op OfficeQA Pro — wijzen erop dat deze aanpak het beantwoorden van documentvragen aanzienlijk kan verbeteren. De kanttekening blijft essentieel: het gaat om aan Mistral gekoppelde benchmarkresultaten. Bedrijven moeten daarom zelf latency, kosten, toegangsrechten, parsingkwaliteit en betrouwbaarheid testen op hun eigen documenten.