ההישג חסר התקדים של אנבידיה בבנצ'מרק AgentPerf: מה זה אומר על עתיד ה-AI הסוכני?

מה מודד AgentPerf ומדוע זה שונה מכל מה שראינו?

AA-AgentPerf, פרי פיתוח של חברת המחקר Artificial Analysis, הוא לא סתם עוד בנצ'מרק ביצועים. מדובר במדד החומרה הפתוח והרב-ספקי הראשון בעולם שתוכנן מהיסוד למדידת עומסי עבודה של בינה מלאכותית סוכנית (Agentic AI). בניגוד למדדים מסורתיים שמודדים כמה מהר מודל שפה יכול להשלים טקסט (Single-turn chat), AgentPerf בוחן תרחישים מורכבים מהעולם האמיתי .

מהות המדד היא השאלה: כמה סוכני AI עצמאיים יכולים לרוץ במקביל על מערכת הסקה (Inference) נתונה, תוך שהם עדיין מספקים ביצועים סבירים למשתמש הקצה? המדד מגדיר "ביצועים סבירים" באמצעות יעדי רמת שירות (Service Level Objectives, SLO) הכוללים שני פרמטרים מרכזיים:

1. מהירות הפקת אסימונים (Output Token Speed) – כמה מילים/חלקי מילים הסוכן מפיק בשנייה.
2. זמן עד לאסימון הראשון (Time-to-First-Token, TTFT) – ההשהיה עד שהמערכת מתחילה להגיב.

הבנצ'מרק אינו מבוסס על שאילתות סינתטיות. צוות Artificial Analysis לקח מסלולי עבודה (Trajectories) אמיתיים של סוכני תכנות AI, שמקורם במאגרים ציבוריים, הכתובים ביותר מ-12 שפות תכנות שונות. כל מסלול עבודה כולל שרשרת ארוכה של קריאות למודל השפה (LLM), קריאות לכלים חיצוניים (Tool Calls) שדורשות השהיות מעבד (CPU) מדומות, וחלונות קונטקסט (Context Windows) שהולכים וגדלים ככל שהסוכן עובד . כדי לאפשר השוואה הוגנת בין טכנולוגיות שונות, התוצאות הסופיות מנורמלות ליחידת מאיץ (לכל GPU) וליחידת צריכת חשמל (לכל מגה-ואט - MW).

ההישגים המרשימים של Nvidia Blackwell Ultra

בסבב התוצאות הראשון, שפורסם ב-12 ביוני 2026, פלטפורמת Nvidia GB300 NVL72, המבוססת על ארכיטקטורת Blackwell Ultra, הציגה דומיננטיות ברורה. עיקר הממצאים:

• ביצועי שיא: הפלטפורמה השיגה את הביצועים הגבוהים ביותר מבין כל הפלטפורמות שנבחנו, וזאת על עומס העבודה של מודל DeepSeek V4 Pro. מודל זה הוא מודל שפה גדול מסוג Mixture-of-Experts (MoE), המייצג את דור מודלי החזית (Frontier Models) שמניעים את הסוכנים המתקדמים ביותר כיום .
• שיפור דרמטי ביעילות: בעבודה מול מערכת Nvidia HGX H200 מהדור הקודם (מבוססת Hopper), מערכת Blackwell Ultra הראתה יכולת הרצה של עד פי 20 יותר סוכנים במקביל למגה-ואט, הן ברמת השירות של 20 אסימונים/לשנייה והן ברמה של 60 אסימונים/לשנייה .
• נתון תפוקה גולמי: פוסט ברשת X (טוויטר) של Artificial Analysis חשף את המספרים שמאחורי הכותרת. בקונפיגורציית Rack-Scale Disaggregated (הפרדת משאבים ברמת הארון), מערכת GB300 הגיעה לתפוקה מדהימה של 61,340 סוכנים במקביל ברמת השירות הקלה ביותר (20 אסימונים/לשנייה, 10 שניות TTFT). לשם השוואה, מערכת B300 (צומת יחיד) הגיעה ל-21,053 סוכנים, AMD MI355X ל-3,551 סוכנים, ומערכת H200 הישנה ל-2,594 סוכנים בלבד .

איפה AgentPerf פוגש את האסטרטגיה הגדולה של אנבידיה

התוצאות הללו אינן אירוע בודד, אלא חלק ממהלך אסטרטגי רחב ומתואם היטב של אנבידיה, שמטרתו למצב את Blackwell Ultra כפלטפורמה ההכרחית לעידן ה-AI הסוכני בקנה מידה גדול.

נראטיב אופטימיזציית ה-Full-Stack

אנבידיה מייחסת את השיפור הדרמטי של פי 20 ליכולתה לבצע תכנון-משותף (Co-design) קיצוני בין חומרה ותוכנה. החברה מדגישה שילוב של מספר טכנולוגיות מפתח :

• NVLink: חיבור ישיר ומהיר במיוחד של 72 מעבדי GPU למארג (fabric) תקשורת אחיד, המאפשר למערכת כולה לפעול כמעט כ-GPU אחד ענק.
• ליבות CUDA: יכולות חפיפה (Overlap) מתקדמות בין פעולות תקשורת לחישוב, שהן קריטיות במיוחד עבור מודלי MoE המחלקים את העבודה בין "מומחים" שונים.
• TensorRT LLM: מערך כלים שעבר אופטימיזציה עמוקה, הכולל טכניקות כמו WideEP ו-DeepEP, DeepGEMM, ו-fused MoE, שמטרתן לשמר יעילות גבוהה גם כאשר מספר הסשנים של סוכנים במקביל מרקיע שחקים.

הרחבת הדומיננטיות בבנצ'מרקים

AgentPerf הוא נדבך נוסף בשליטה של אנבידיה על עולם מדדי הביצועים. לפניו, ארכיטקטורת Blackwell Ultra כבר קבעה שיאים במקצי הסקה (Inference) ואימון (Training) המסורתיים של MLPerf. במדד MLPerf Inference v5.1, הפלטפורמה הציגה שיפור של 40% בתפוקת DeepSeek-R1 לעומת דגם Blackwell הקודם . במדד MLPerf Training v5.1, היא לא רק ניצחה, אלא טאטאה את כל שבעת הבנצ'מרקים, כולל אימון מודל Llama 3.1 405B תוך 10 דקות בלבד . הישגי AgentPerf מוסיפים כעת מימד קריטי של ביצועי AI סוכני, ומשלימים תמונה של עליונות טכנולוגית כמעט בכל זירה.

הוכחות מהשטח האקוסיסטמי

אנבידיה אינה מסתפקת בניצחונות מעבדתיים. החברה מצביעה על שותפויות קונקרטיות בהן חומרת Blackwell כבר משרתת עומסי עבודה סוכניים. לדוגמה, חברת Together AI משתמשת ב-Blackwell כדי להניע את היכולות הסוכניות של כלי הפיתוח Cursor, ו-DeepInfra משתמשת בפלטפורמה כדי להפעיל את "כוח העבודה" הוירטואלי של Pam.ai . הציטוטים האלה מחזקים את הטענה שהפלטפורמה מוכנה לעולם הייצור (Production-Ready), ולא רק חזקה על הנייר.

מבט לעתיד

הפוסט בבלוג של אנבידיה לא מסתיר את העובדה שהמירוץ רק החל. הוא מרמז במפורש על הארכיטקטורה הבאה בתור, Vera Rubin, שכבר נמצאת בשלבי ייצור וצפויה לקחת את יכולות ה-AI הסוכני צעד נוסף קדימה . המסמך הטכני המעמיק של AgentPerf גם הוא מספק הצצה לעתיד, עם תחזיות לשיפורים נוספים שיגיעו מכוח מחשוב של 50 PFLOPs בחישובי NVFP4 ומהאצה משופרת של קריאות כלים (Tool Calls) .

סיכום

סיבוב התוצאות הראשון של AgentPerf הוא הרבה יותר מסתם ניצחון בנצ'מרק עבור אנבידיה. הוא מספק מדד אובייקטיבי ראשון מסוגו, שמראה עד כמה ארכיטקטורת Blackwell Ultra מתאימה לעומס העבודה שנחשב לעתיד התחום: AI סוכני. תוצאת הפי 20 במספר הסוכנים למגה-ואט, בשילוב עם אופטימיזציות ייעודיות לאורך כל מחסנית המחשוב, ממחישה את ההובלה הטכנולוגית של אנבידיה במעבר מעוזרים חכמים, לסוכנים אוטונומיים בעולם התוכנה הארגונית.