Mistral הופכת את חיפוש המסמכים הארגוני לחקירה של ממש

לא עוד תשובה מהקטע הראשון

Mistral Agentic Search הוא שכבת שליפה שמאפשרת למודל בינה מלאכותית לחקור אוסף מסמכים באמצעות כמה קריאות לכלים, במקום לענות על בסיס אצווה קבועה אחת של טקסט שנשלף מראש. המודל יכול לחפש מסמכים מועמדים, לפתוח אותם, לנווט במבנה שלהם, לקרוא קטעים רלוונטיים ולחפש מונחים או תבניות מדויקים.

ההבדל הזה חשוב במיוחד כאשר התשובה מפוזרת על פני דוחות כספיים ארוכים, עמודים סרוקים, טבלאות, הערות שוליים או כמה מסמכים קשורים. Mistral מדווחת כי הגישה שלה העלתה את שיעור הנכונות של Mistral Medium 3.5 ב-FinanceBench מ-26.7% ל-86% — בערך פי שלושה — על מאגר של 368 מסמכים פיננסיים ובהיקף של כ-53,900 עמודים. מדובר בהערכה של Mistral עצמה, ולכן יש לראות בתוצאה מדד ביצועים של מוצר ולא אמת מידה תעשייתית שנקבעה באופן בלתי תלוי.

מה משתנה לעומת RAG רגיל?

במערכת RAG — כלומר יצירת טקסט משולבת שליפה — מתבצעת בדרך כלל שליפה אחת, נבחרת קבוצה קבועה של קטעים המדורגים גבוה, ואז מודל שפה מנסח תשובה על בסיסם. השיטה יכולה לעבוד היטב כאשר התשובה מופיעה בפסקה ישירה אחת. היא נעשית פחות אמינה כאשר החיפוש הראשוני מפספס מסמך רלוונטי, מפריד טבלה מההסבר שלה או מחזיר טקסט ללא ההקשר הדרוש. גם תהליך חיפוש המסמכים של Mistral מתאר RAG סטנדרטי כשליפה של קטעים רלוונטיים מספרייה שהועלו אליה מסמכים.

Agentic Search הופך את השליפה לתהליך מסתגל. במקום להתייחס לתוצאות הראשונות כסופיות, המודל יכול לבדוק מה מצא ולהחליט מה לעשות בהמשך:

1. Search — חיפוש: איתור מסמכים או קטעים שעשויים להיות רלוונטיים.
2. Open — פתיחה: טעינת מסמך מסוים לבדיקה.
3. Navigate — ניווט: מעבר בין עמודים, סעיפים או רכיבים אחרים במבנה המסמך.
4. Read — קריאה: שליפת התוכן הרלוונטי יחד עם ההקשר שלו.
5. Grep — איתור מדויק: בדיקה אם מילה, ביטוי, מספר או תבנית מסוימים מופיעים במאגר.

המודל יכול לחזור על הפעולות האלה שוב ושוב תוך צמצום השאלה. בפועל נוצרת לולאה של חיפוש ואימות: מציאת תשובה אפשרית, בדיקת המקור שלה, חיפוש ראיות קשורות ואימות הניסוח המדויק לפני מתן התשובה. דפוס זה תואם את ארכיטקטורת הסוכנים המתועדת של Mistral, שבה המודל קורא לפונקציות חיצוניות במהלך משימה ומקבל את התוצאות כדי להמשיך בתהליך ההסקה.

למה זה מתאים למסמכים ארגוניים קשים?

אפשר להתאושש משליפה ראשונית חלשה

RAG חד־פעמי תלוי מאוד בשאילתה הראשונית, באינדקס, באופן חלוקת המסמך לקטעים ובדירוג התוצאות. אם השליפה מחזירה חומר שנראה סביר אך חלקי, המודל עלול לא לראות לעולם את הראיה שתאפשר לו לתקן את עצמו. סוכן איטרטיבי יכול לנסח חיפוש נוסף, לפתוח מסמך אחר או לבדוק סעיפים סמוכים במקום לעצור בהתאמה הראשונה שנראית משכנעת.

מבנה המסמך נשמר

טבלאות וגילויים פיננסיים תלויים לעיתים בכותרות, במיקום בעמוד, בהערות שוליים ובטקסט הסמוך. אוסף שטוח של קטעים עלול לטשטש את הקשרים האלה. ניווט וקריאה ממוקדת מאפשרים למודל לנוע בתוך המסמך, במקום להתייחס לכל פסקה כאל יחידת טקסט מבודדת.

אפשר לבצע בדיקות ראייתיות מדויקות

שליפה סמנטית יעילה באיתור רעיונות קשורים, אך התאמה מדויקת עדיין חשובה בשמות חברות, מונחים חשבונאיים, תאריכים, מזהים וגילויים חוזרים. פעולה בסגנון grep מספקת למודל דרך משלימה לבדוק אם מונח או תבנית מסוימים אכן מופיעים במאגר. כלים דומים המבוססים על חיפוש, grep, קריאה וגלישה במבנה המסמך משמשים גם במערכות מסמכים סוכניות שאינן של Mistral.

שאלות שחוצות כמה מסמכים

שאלות ארגוניות רבות מחייבות השוואה בין כמה דוחות, או איתור של מספר במסמך אחד ושל ההגדרה שלו במסמך אחר. לולאה המנוהלת בידי המודל יכולה לעבור הלוך ושוב בין גילוי לאימות ברחבי המאגר, במקום להסתמך על סבב דירוג יחיד.

מה מראים המדדים שפרסמה Mistral?

Mistral מדגישה שתי הערכות שנועדו לבחון שאלות מורכבות על מסמכים.

FinanceBench: מ-26.7% ל-86%

FinanceBench כולל 368 מסמכים פיננסיים, בהיקף כולל של כ-53,900 עמודים. Mistral מדווחת כי Mistral Medium 3.5 הגיע ל-26.7% נכונות בשליפה חד־פעמית, לעומת 86% עם Agentic Search. מדובר בעלייה של 59.3 נקודות אחוז, או בערך פי 3.2 ביחס לתוצאה החד־פעמית.

Mistral מדווחת גם על בדיקת שכבת השליפה עם GLM-5.2, שמוגדר בתיעוד שלה כמודל טקסט פתוח של צד שלישי. בהשוואה שפרסמה החברה, GLM-5.2 עלה מ-6.3% בשליפה חד־פעמית ל-51.9% עם Agentic Search.

OfficeQA Pro: שיפור של 45.6 נקודות אחוז

OfficeQA Pro מתמקד בשאלות מרובות מסמכים ועשירות בטבלאות, המבוססות על 696 מסמכים סרוקים של עלוני האוצר האמריקאי. בהודעה של Mistral ששיתפה Ina Koleva דווח על עלייה מ-6.3% ל-51.9%, כלומר שיפור של 45.6 נקודות אחוז, בהשוואה ל-RAG חד־פעמי.

הנתונים מעודדים, אך אינם מבטיחים ביצועים זהים בכל סביבה. התוצאות עשויות להשתנות לפי איכות חילוץ הטקסט, דיוק OCR, חלוקת המסמכים לקטעים, האינדוקס, בחירת המודל, הפרומפטים, מגבלות הכלים ושיטת ההערכה. המחקר של OfficeQA Pro מראה גם שייצוג המסמך ודרך הפענוח שלו משפיעים באופן מהותי על הדיוק, זמן התגובה, מספר קריאות הכלים והעלות.

דיוק הוא רק חצי מהסיפור הארגוני

Mistral אומרת ש-Agentic Search משפר את הדיוק ובמקביל מפחית את מספר הסבבים, את צריכת הטוקנים ואת זמן ההשהיה במדדים שעליהם הצביעה. עם זאת, מערכת שליפה מרובת שלבים עדיין צריכה להמתין לקריאות לכלים ולעיבוד המסמכים. ניתוח משני של תוצאות FinanceBench דיווח על זמן השהיה ממוצע של 71 שניות ועל 154 שניות באחוזון 90 עבור הלולאה המלאה; נתונים אלה אינם מופיעים בקטע המקור הראשי של Mistral, ולכן יש להתייחס אליהם בהתאם.

עבור צוותים שמכניסים מערכת כזו לייצור, ההשוואה החשובה אינה רק בין "סוכני" ל"לא סוכני", אלא בין כמה שאלות מעשיות:

• באיזו תדירות המערכת מוצאת את הראיה הנכונה?
• עד כמה היא שומרת על ההקשר של עמודים, טבלאות ואסמכתאות?
• מהו זמן התגובה הממוצע ומהו זמן התגובה בתרחישים הגרועים ביותר?
• כמה קריאות לכלים וטוקנים נדרשים לכל שאלה?
• האם אפשר לשלב הרשאות, אינדקסים, OCR ויומני ביקורת בתהליך?
• היכן מתבצעים עיבוד המסמכים והסקת המודל?

שליפה סוכנית יכולה לצמצם הקשר מיותר בכך שהיא קוראת רק את מה שנחוץ למודל, אך שלבי הסקה נוספים עלולים ליצור זמן תגובה ועלויות חדשים. התכנון הנכון תלוי במורכבות המשימה וברמת הסיכון שלה.

היכן Agentic Search זמין?

Mistral אומרת ש-Agentic Search זמין דרך Search Toolkit ו-Libraries. המוצרים האלה משתלבים במערך הרחב יותר של החברה לסוכנים ולחיפוש במסמכים: התיעוד מציג ספריות מסמכים ככלי מובנה לחיפוש בקבצים שהועלו, בעוד Agents API מאפשר לסוכנים לקרוא לכלים במהלך שיחה.

המשמעות המוצרית היא ש-Agentic Search מוצג כרכיב של תשתית שליפה, ולא רק כתכונה של צ'אטבוט לצרכנים. כך ניתן לשלב את תהליך החיפוש בתוך אפליקציה, סוכן או צינור חיפוש ארגוני רחב יותר.

למה חשובה גישה שאינה תלויה במודל אחד?

הבדיקות ש-Mistral מדווחת עליהן עם Mistral Medium 3.5 ועם GLM-5.2 מצביעות על עיצוב גמיש מבחינת המודל. אם שכבת השליפה והניווט יכולה לעבוד עם מודלים שונים, ארגון לא בהכרח יצטרך לבנות מחדש את כל תהליך העבודה עם המסמכים בכל פעם שהוא מחליף מודל.

הניידות הזו עשויה להיות חשובה לארגונים שמאזנים בין יכולות, מחיר, רישוי, מיקום הפריסה ובקרות על המידע. היא גם משנה את מוקד התחרות: שכבת השליפה, ייצוג המסמכים, ההרשאות, הניטור ואיכות הראיות נעשים חשובים לא פחות מהמודל שמנסח את התשובה הסופית.

עם זאת, יש לבחון את הטענה בכל פריסה בנפרד. מערכת עשויה להיות בלתי תלויה במודל ברמה העקרונית, אך להתנהג אחרת עם מודלים שונים משום שאמינות השימוש בכלים, היכולת להתמודד עם הקשר ארוך ואיכות ההסקה אינן זהות.

חלק מהאסטרטגיה האירופית של Mistral

Agentic Search מחזק את הניסיון של Mistral למכור יותר ממודל עצמאי: החברה מציבה את הטכנולוגיה שלה כשכבה ניידת לחיפוש ולהסקה מעל מידע ארגוני רגיש, כולל רשומות פיננסיות ומאגרי ידע פנימיים. חומרי החברה בתחום הפיננסים מדגישים חיפוש המודע להרשאות ותשובות שמלוות בראיות ובהקשר.

המסר רלוונטי במיוחד לארגונים מפוקחים שצריכים שליטה על המקום שבו המידע מעובד ועל אופן הגישה לראיות. דיווחים הקשורים ל-Mistral מתארים פריסה בענן ובתשתיות מבוקרות, לרבות סביבות בסגנון on-premises, אך גמישות בפריסה אינה שקולה לעמידה אוטומטית בכל דרישות הציות בכל מדינה או ענף.

גם תוכניות התשתית של Mistral משרתות את אותו נרטיב. רויטרס דיווחה על הסכם שבמסגרתו Microsoft תשקיע מיליארדי דולרים בתשתיות המחשוב האירופיות של Mistral, וכי לקוחות Azure יוכלו לפתח תוכנה באמצעות מרכזי הנתונים של Mistral בצרפת. אירוח אירופי עשוי לתמוך בריבונות נתונים ובשליטה תפעולית, אך הקשר עם Microsoft ממחיש מדוע "בינה מלאכותית ריבונית" אינה פירושה עצמאות מלאה משרשראות אספקה עולמיות של ענן וחומרה.

מאחורי ההשקה: גיוס ההון האפשרי

השקת המוצר הגיעה על רקע דיווחים שלפיהם Mistral מנהלת מגעים ראשוניים לגיוס של כ-3 מיליארד אירו, לפי שווי של כ-20 מיליארד אירו. Bloomberg תיארה את השיחות כראשוניות וככאלה שהתנאים שלהן עשויים להשתנות.

שווי כזה יהיה גבוה משמעותית מהשווי של 11.7 מיליארד אירו שדווח לאחר סבב הגיוס של Mistral בספטמבר 2025. חשוב להבחין בין מגעים לגיוס שעליהם דווח לבין סבב שהושלם בפועל: הנתונים מתארים תנאים אפשריים ולא עסקה סופית.

הגיוס האפשרי ממחיש מדוע שליפה ארגונית ותשתיות הן סוגיות אסטרטגיות. פיתוח מוצרי AI מתקדמים דורש גישה לכוח מחשוב יקר, בעוד שלקוחות ארגוניים רוצים מערכות אמינות שיכולות לפעול על המידע שלהם. Agentic Search מטפל בשכבת היישום והשליפה; מרכזי נתונים באירופה מטפלים בחלק מסיפור התשתית.

המיקום בשוק התחרותי

Mistral מתחרה בכמה חזיתות במקביל:

• חיפוש ארגוני מסורתי: Agentic Search מוסיף חקירה המנוהלת בידי מודל לדירוג ולשליפה, במטרה לא רק להחזיר רשימת מסמכים אלא גם לאתר, לבדוק ולהסביר את הראיות.
• RAG בסיסי: ההבדל המרכזי הוא שליפה, ניווט ואימות איטרטיביים במקום סבב יחיד של חיפוש וקטורי או חיפוש לפי מילות מפתח.
• ספקיות ענן ופלטפורמות: Mistral מדגישה כלים מודולריים, גמישות בין מודלים ואפשרויות פריסה אירופיות, במקום להסתמך רק על עוזר כללי.
• מערכות חיפוש סוכנית אחרות: OpenSearch מתארת גם היא תהליך שבו מודל מתכנן ומבצע את השליפה באופן אוטומטי, כך שהקטגוריה רחבה יותר מ-Mistral.

כותרת המדדים מעניקה ל-Mistral נקודת פתיחה חזקה, בעיקר במסמכים ארוכים ובעלי מבנה מורכב. היתרון שיישאר לאורך זמן יהיה תלוי בשאלה אם השיפור יחזור על עצמו בהערכות בלתי תלויות ובעומסי עבודה אמיתיים — ואם החברה תוכל לספק אותו בזמן תגובה, בעלות, ברמת אבטחה ובמורכבות אינטגרציה שמתאימים לארגונים.

השורה התחתונה

הרעיון המרכזי של Mistral Agentic Search פשוט אך משמעותי: שליפה צריכה להיות חקירה פעילה, לא חיפוש מקדים חד־פעמי. שילוב של חיפוש, פתיחת מסמכים, ניווט, קריאה ממוקדת והתאמת מונחים מדויקת מעניק למודל הזדמנויות נוספות למצוא ולאמת ראיות בתוך מאגרים ארגוניים קשים.

התוצאות שעליהן דיווחה Mistral — מ-26.7% ל-86% ב-FinanceBench ושיפור של 45.6 נקודות אחוז ב-OfficeQA Pro — מצביעות על כך שהגישה עשויה לשפר באופן מהותי את המענה על שאלות במסמכים. אך ההסתייגות חשובה לא פחות: אלה תוצאות המקושרות למדדי ספק, ולכן ארגונים עדיין צריכים למדוד בעצמם זמן תגובה, עלות, הרשאות, איכות הפענוח ואמינות על הנתונים שלהם.