Mistral Agentic Search macht aus Dokumentensuche eine Untersuchung

Mistral Agentic Search ist eine Retrieval-Schicht, mit der ein KI-Modell eine Dokumentensammlung über mehrere Werkzeugaufrufe hinweg untersuchen kann. Es antwortet also nicht nur auf Basis eines einmalig abgerufenen Textpakets, sondern kann zunächst suchen, passende Dokumente öffnen, durch deren Struktur navigieren, relevante Passagen lesen und nach exakten Begriffen oder Mustern suchen.

Der Unterschied wird besonders bei langen Finanzberichten, gescannten Seiten, Tabellen, Fußnoten oder Fragen über mehrere Dokumente hinweg relevant. Mistral berichtet, dass die Methode die Korrektheit von Mistral Medium 3.5 auf FinanceBench von 26,7 % auf 86 % gesteigert habe – also auf ungefähr das Dreifache. Grundlage war eine Sammlung aus 368 Finanzdokumenten mit rund 53.900 Seiten. Die Zahlen stammen aus Mistrals eigener Auswertung und sind daher als Produkt-Benchmark, nicht als unabhängig bestätigter Branchenstandard, einzuordnen.

Was sich gegenüber klassischem RAG ändert

Bei einem herkömmlichen Retrieval-Augmented-Generation-System (RAG) wird zunächst gesucht. Anschließend werden einige der am höchsten bewerteten Textabschnitte ausgewählt und an ein Sprachmodell übergeben, das daraus eine Antwort formuliert. Das funktioniert gut, wenn die Antwort direkt in einer einzelnen Passage steht. Schwieriger wird es, wenn die erste Suche die relevante Datei verfehlt, eine Tabelle von ihrer Erläuterung trennt oder ein Textausschnitt ohne den nötigen Kontext geliefert wird. Auch Mistrals Dokumentensuche beschreibt klassisches RAG als Abruf relevanter Passagen aus einer hochgeladenen Bibliothek.

Agentic Search macht diesen Prozess adaptiv. Die erste Trefferliste gilt nicht mehr automatisch als Endpunkt. Das Modell kann prüfen, was es gefunden hat, und den nächsten Schritt auswählen:

1. Search: Findet wahrscheinliche Dokumente oder Passagen.
2. Open: Öffnet ein ausgewähltes Dokument zur genaueren Prüfung.
3. Navigate: Bewegt sich durch Seiten, Abschnitte oder andere Strukturelemente.
4. Read: Ruft den relevanten Inhalt mitsamt Kontext ab.
5. Grep: Sucht nach exakten Wörtern, Ausdrücken, Zahlen oder Mustern.

Diese Schritte können wiederholt werden, bis die Frage eingegrenzt und die Beleglage geprüft ist. Praktisch entsteht dadurch eine Schleife aus Suchen und Verifizieren: eine mögliche Antwort finden, die Quelle kontrollieren, weitere Hinweise aufspüren und die genaue Formulierung prüfen. Das entspricht Mistrals dokumentierter Agentenarchitektur, bei der Modelle während einer Aufgabe externe Funktionen aufrufen und deren Ergebnisse anschließend in die weitere Bearbeitung einbeziehen.

Warum das bei schwierigen Unternehmensdokumenten hilft

Schwache erste Treffer lassen sich korrigieren

One-Shot-RAG hängt stark von der ursprünglichen Suchanfrage, der Indexierung, der Aufteilung in Textabschnitte und dem Ranking ab. Liefert die erste Suche zwar plausibles, aber unvollständiges Material, sieht das Modell die entscheidenden Belege möglicherweise nie. Ein iterativer Agent kann die Anfrage neu formulieren, ein weiteres Dokument öffnen oder benachbarte Abschnitte untersuchen, statt beim ersten brauchbar klingenden Treffer stehenzubleiben.

Die Dokumentstruktur bleibt erhalten

Finanzielle Angaben ergeben oft erst durch Überschriften, Seitenpositionen, Fußnoten und benachbarte Erläuterungen ihren Sinn. Eine flache Sammlung isolierter Textblöcke kann diese Beziehungen verschleiern. Durch Navigation und gezieltes Lesen kann das Modell im Dokument weiterblättern, anstatt jede Passage als unabhängiges Fragment zu behandeln.

Exakte Belege werden leichter überprüfbar

Semantische Suche eignet sich gut, um thematisch verwandte Inhalte aufzuspüren. Bei Unternehmensnamen, Bilanzbegriffen, Datumsangaben, Kennziffern oder wiederholten Offenlegungen kommt es jedoch oft auf die exakte Schreibweise an. Eine Grep-ähnliche Funktion ergänzt die semantische Suche um eine direkte Prüfung, ob ein bestimmter Begriff oder ein bestimmtes Muster tatsächlich im Dokumentbestand vorkommt. Ähnliche dateiorientierte Werkzeuge wie Search, Grep, Read und Dokumentnavigation werden auch in anderen agentischen Dokumentensystemen eingesetzt.

Fragen über mehrere Dokumente werden realistischer

Unternehmensrecherchen verlangen häufig, mehrere Berichte miteinander zu vergleichen – etwa eine Zahl in einem Dokument zu finden und ihre Definition in einem anderen nachzuschlagen. Eine vom Modell gesteuerte Schleife kann zwischen Entdeckung und Überprüfung im gesamten Bestand wechseln, statt sich auf einen einzigen Ranking-Durchlauf zu verlassen.

Die gemeldeten Benchmark-Ergebnisse

Mistral hebt zwei Tests für anspruchsvolle Fragen zu Unternehmensdokumenten hervor.

FinanceBench: von 26,7 % auf 86 %

FinanceBench umfasst 368 Finanzberichte mit insgesamt rund 53.900 Seiten. Mistral zufolge erreichte Mistral Medium 3.5 mit einmaligem Retrieval eine Korrektheit von 26,7 %, mit Agentic Search dagegen 86 %. Das entspricht einem Plus von 59,3 Prozentpunkten beziehungsweise etwa dem 3,2-Fachen des Ausgangswerts.

Mistral berichtet außerdem über Tests mit GLM-5.2, das in der eigenen Dokumentation als quelloffenes Textmodell eines Drittanbieters beschrieben wird. In diesem Vergleich stieg die Korrektheit laut Mistral von 6,3 % bei einmaligem Retrieval auf 51,9 % mit Agentic Search.

OfficeQA Pro: plus 45,6 Prozentpunkte

OfficeQA Pro konzentriert sich auf tabellenlastige Fragen über mehrere Dokumente. Der Benchmark nutzt 696 gescannte Dokumente des U.S. Treasury Bulletin. Eine von Ina Koleva geteilte Mistral-Ankündigung berichtet hier von einem Anstieg von 6,3 % auf 51,9 % – einem Gewinn von 45,6 Prozentpunkten gegenüber One-Shot-RAG.

Die Ergebnisse sind vielversprechend, aber keine universelle Leistungsgarantie. Dokumentenparser, OCR-Qualität, Chunking, Indexierung, Modellauswahl, Prompts, Werkzeuglimits und Bewertungsmethode können die Resultate deutlich verändern. Die Forschung zu OfficeQA Pro zeigt ebenfalls, dass Dokumentendarstellung und Parsing Genauigkeit, Antwortzeit, Zahl der Werkzeugaufrufe und Kosten wesentlich beeinflussen.

Genauigkeit ist im Unternehmenseinsatz nur die halbe Miete

Mistral erklärt, Agentic Search verbessere die Genauigkeit und reduziere zugleich die Zahl der Interaktionsschritte, den Tokenverbrauch und die Latenz gegenüber den hervorgehobenen Benchmarks. Ein mehrstufiges System muss jedoch weiterhin auf Werkzeugaufrufe und die Verarbeitung der Dokumente warten. Eine sekundäre Analyse der FinanceBench-Ergebnisse nennt für den vollständigen Ablauf eine durchschnittliche Latenz von 71 Sekunden und 154 Sekunden beim 90. Perzentil. Diese Werte stehen nicht im primären Mistral-Quellenausschnitt und sollten entsprechend vorsichtig bewertet werden.

Für Teams, die ein System produktiv einsetzen wollen, lautet die entscheidende Frage daher nicht einfach „agentisch oder nicht agentisch?“, sondern:

• Wie oft findet das System den richtigen Beleg?
• Bleiben Seiten-, Tabellen- und Zitatkontext zuverlässig erhalten?
• Wie hoch sind durchschnittliche und ungünstigste Antwortzeit?
• Wie viele Werkzeugaufrufe und Tokens benötigt eine Anfrage?
• Lassen sich Berechtigungen, Indexierung, OCR und Audit-Logs integrieren?
• Wo werden Dokumente verarbeitet und Modellinferenz ausgeführt?

Agentisches Retrieval kann unnötigen Kontext vermeiden, indem es nur die tatsächlich benötigten Inhalte liest. Die zusätzlichen Denkschritte können aber auch neue Kosten und Verzögerungen erzeugen. Die passende Architektur hängt deshalb vom Risiko und von der Komplexität der jeweiligen Aufgabe ab.

Über welche Mistral-Produkte ist Agentic Search verfügbar?

Mistral zufolge ist Agentic Search über das Search Toolkit und Libraries verfügbar. Beide Angebote fügen sich in Mistrals umfassenderen Agenten- und Dokumentensuch-Stack ein: Die Dokumentation nennt Libraries als integrierte Möglichkeit, hochgeladene Dateien zu durchsuchen, während die Agents API Agenten unterstützt, die während eines Gesprächs Werkzeuge aufrufen.

Entscheidend ist die Positionierung als Retrieval-Komponente und nicht ausschließlich als Funktion eines Verbraucher-Chatbots. Unternehmen können den Such- und Prüfprozess damit in eine größere Anwendung, einen Agenten oder eine eigene Enterprise-Search-Pipeline einbauen.

Warum die Modellunabhängigkeit wichtig sein könnte

Die von Mistral gemeldeten Tests mit Mistral Medium 3.5 und GLM-5.2 deuten auf einen flexiblen Ansatz hin. Wenn Retrieval und Dokumentnavigation mit unterschiedlichen Reasoning-Modellen funktionieren, muss ein Unternehmen seine Dokumentenprozesse nicht zwangsläufig jedes Mal neu aufbauen, wenn es das zugrunde liegende Modell wechselt.

Diese Portabilität kann für Organisationen relevant sein, die zwischen Leistungsfähigkeit, Preis, Lizenzierung, Einsatzort und Datenkontrolle abwägen. Dadurch verschiebt sich auch der Wettbewerb: Retrieval-Schicht, Dokumentendarstellung, Berechtigungen, Beobachtbarkeit und Qualität der Belege werden ähnlich wichtig wie das Sprachmodell, das die finale Antwort formuliert.

Der Anspruch muss allerdings in jeder Umgebung separat getestet werden. Ein System kann prinzipiell modellunabhängig sein und sich dennoch je nach Modell unterschiedlich verhalten, weil Zuverlässigkeit bei Werkzeugaufrufen, Kontextverarbeitung und Schlussfolgerungen variieren.

Mistrals Strategie für Unternehmen und digitale Souveränität

Agentic Search unterstützt Mistrals Versuch, mehr als nur einzelne Sprachmodelle zu verkaufen. Das Unternehmen positioniert seine Technologie als portable Schicht für die Suche und das Schlussfolgern über sensible Organisationsdaten – darunter Finanzunterlagen und interne Wissensbestände. Die Materialien für den Finanzsektor betonen berechtigungsbewusste Suche sowie Antworten mit Belegen und Kontext.

Das ist besonders für regulierte Organisationen interessant, die kontrollieren müssen, wo Daten verarbeitet und wie Quellen abgerufen werden. Berichte über Mistrals Infrastruktur beschreiben den Einsatz in der Cloud und in kontrollierten Umgebungen, einschließlich On-Premises-ähnlicher Szenarien. Flexible Bereitstellung ist jedoch nicht automatisch gleichbedeutend mit Compliance in jeder Rechtsordnung oder Branche.

Auch Mistrals Infrastrukturpläne zahlen auf diese Erzählung ein. Reuters berichtete über eine Vereinbarung, nach der Microsoft Milliarden in Mistrals europäische Rechenzentrumsinfrastruktur investieren will. Azure-Kunden sollen Software mit Mistrals Rechenzentren in Frankreich entwickeln können. Europäisches Hosting kann Datenresidenz und operative Kontrolle unterstützen. Die Microsoft-Partnerschaft zeigt zugleich, dass „souveräne KI“ nicht völlige Unabhängigkeit von globalen Cloud- und Hardware-Lieferketten bedeutet.

Die Finanzierung hinter dem Start

Der Produktstart fiel in eine Phase, in der über frühe Gespräche Mistrals zur Aufnahme von etwa 3 Milliarden Euro bei einer Bewertung von rund 20 Milliarden Euro berichtet wurde. Bloomberg bezeichnete die Gespräche als vorläufig und Änderungen an den Konditionen als möglich.

Eine solche Bewertung läge deutlich über den 11,7 Milliarden Euro, die nach Mistrals Finanzierungsrunde im September 2025 berichtet wurden. Wichtig ist die Unterscheidung zwischen Gesprächen über eine mögliche Finanzierung und einer abgeschlossenen Runde: Die genannten Summen beschreiben mögliche Konditionen, keine bestätigte Transaktion.

Die mögliche Kapitalaufnahme verdeutlicht zugleich die strategische Bedeutung von Retrieval und Infrastruktur. Die Entwicklung führender KI-Produkte erfordert teure Rechenkapazitäten, während Unternehmenskunden verlässliche Systeme für ihre eigenen Datenumgebungen benötigen. Agentic Search adressiert die Anwendungs- und Retrieval-Ebene; europäische Rechenzentren bilden einen Teil der Infrastrukturantwort.

Mistrals Position im umkämpften Markt

Mistral tritt gleichzeitig gegen mehrere Kategorien an:

• Traditionelle Enterprise Search: Agentic Search ergänzt Ranking und Retrieval um eine modellgesteuerte Untersuchung. Ziel ist nicht nur eine Dokumentenliste, sondern das Auffinden, Prüfen und Erklären von Belegen.
• Einfaches RAG: Der zentrale Unterschied liegt in iterativer Suche, Navigation und Verifikation statt in einem einzigen Vektor- oder Keyword-Suchlauf.
• Cloud- und Plattformanbieter: Mistral betont kombinierbare Werkzeuge, Modellflexibilität und europäische Bereitstellungsoptionen, statt ausschließlich auf einen universellen Assistenten zu setzen.
• Andere agentische Suchsysteme: Auch OpenSearch beschreibt einen Ablauf, in dem ein Modell die Suche automatisch plant und ausführt. Die Kategorie ist daher größer als Mistral.

Die Benchmark-Schlagzeilen verschaffen Mistral einen starken Ausgangspunkt – vor allem bei langen und strukturell schwierigen Dokumenten. Ein dauerhafter Vorsprung hängt jedoch davon ab, ob sich die Verbesserungen in unabhängigen Tests und im produktiven Einsatz bestätigen. Ebenso entscheidend sind akzeptable Latenz, Kosten, Sicherheit und Integrationsaufwand.

Fazit

Die Grundidee von Mistral Agentic Search ist einfach, aber folgenreich: Retrieval sollte eine aktive Untersuchung sein und nicht nur eine einmalige Vorab-Suche. Durch die Kombination aus Suchen, Öffnen, Navigieren, gezieltem Lesen und exakter Begriffssuche erhält ein Modell mehr Möglichkeiten, Belege in schwierigen Unternehmensbeständen zu finden und zu überprüfen.

Mistrals gemeldete Ergebnisse – 26,7 % auf 86 % bei FinanceBench und ein Plus von 45,6 Prozentpunkten bei OfficeQA Pro – deuten darauf hin, dass dieser Ansatz die Beantwortung komplexer Dokumentenfragen deutlich verbessern kann. Der entscheidende Vorbehalt bleibt: Es handelt sich um anbieterbezogene Benchmark-Ergebnisse. Unternehmen müssen deshalb mit ihren eigenen Daten insbesondere Latenz, Kosten, Berechtigungen, Parsing-Qualität und Zuverlässigkeit messen.