Nvidia הודיעה ב-24 באוגוסט, במסגרת כנס Hot Chips, כי מאיץ ההסקה שלה Groq 3 LPX נכנס לייצור מלא. המערכת מיועדת לפעול לצד Vera Rubin NVL72 ולהאיץ את שלב יצירת הטוקנים — הרגע שקובע באיזו מהירות עוזרי AI, סוכנים אוטונומיים וכלי תכנות מגיבים למשתמש.
26
במבחן של Artificial Analysis, Groq 3 LPX יצר 3,400 טוקנים בשנייה בזמן שהריץ את Gemma 4 31B, מודל קוד פתוח של Google, עם הקשר באורך 100 אלף טוקנים. התוצאה המדויקת שדווחה הייתה חציון של 3,431 טוקנים בשנייה, שאותו עיגלה Nvidia ל-3,400. החברה טוענת כי בתרחיש הבדיקה המאיץ היה מהיר פי ארבעה מהפלטפורמה החלופית הקרובה ביותר.
17
35
מה עושה Groq 3 LPX?
Groq 3 LPX נועד בעיקר ליישומים שבהם זמן התגובה חשוב במיוחד: מערכות AI סוכניות, עוזרי תכנות ושירותים שצריכים להתמודד עם הקשרים ארוכים בלי לגרום למשתמש להמתין זמן רב. Nvidia מתארת אותו כמאיץ הסקה אינטראקטיבי שמספק יצירת טוקנים מהירה וצפויה.
19
26
כדי להבין את תפקידו, כדאי להבחין בין שני שלבים מרכזיים בהסקה:
- Prefill — עיבוד השאלה, ההוראות וההקשר שהמשתמש הזין.
- Decode — יצירת התשובה, טוקן אחר טוקן.
LPX מתמקד בעיקר בשלב השני. Vera Rubin NVL72 נשארת המערכת הגמישה יותר, המיועדת לאימון, להסקה כללית, לעיבוד הקשר ולתעבורה בהיקף גבוה.
34
החלוקה הזו מציגה את LPX כתוספת לתשתית ה-GPU של Nvidia, ולא כתחליף גורף לה. מעבדי GPU ממשיכים לטפל בחישוב מואץ ורב-תכליתי, בעוד שהארכיטקטורה שמקורה ב-Groq מוקצית לחלק הרגיש ביותר לזמן תגובה בעת הפעלת מודל AI.
מה באמת אומר המספר 3,400?
במבחן 100K-context של Artificial Analysis, Groq 3 LPX הגיע לחציון של 3,431 טוקני פלט בשנייה בהרצת Gemma 4 31B עם הקשר באורך 100 אלף טוקנים. Nvidia הציגה את הנתון המעוגל — 3,400 טוקנים בשנייה — בהודעתה.
17
חשוב לסייג: מדובר בתוצאה התלויה בעומס העבודה שנבדק, במודל, באורך ההקשר ובתצורת המבחן. היא אינה מדד אוניברסלי לכל ביצועי AI. Nvidia תיארה את LPX כתגובה מהירה פי ארבעה מזו של הפלטפורמה החלופית הקרובה ביותר באותו תרחיש.
35
מהירות יצירת הטוקנים היא רק חלק מחוויית השימוש. גודל המודל, אורך ההנחיה, מספר המשתמשים במקביל, הזיכרון, התקשורת בין הרכיבים והזמן הדרוש לעיבוד ההקשר הראשוני — כולם עשויים להשפיע על הביצועים של שירות אמיתי.
מי צפוי להשתמש במאיץ?
Nebius היא ספקית הענן הראשונה שהוכרזה כמאמצת של Groq 3 LPX. החברה מתכננת לשלב את המאיץ בפלטפורמת ההסקה שלה, Nebius Token Factory, לפני סוף 2026.
2
גם Groq הודיעה כי תהיה בין המאמצות הראשונות. היא מתכננת לפרוס את LPX לצד Vera Rubin NVL72 בענן ההסקה הייעודי שלה. השילוב נועד לחלק את העבודה: מערכות Rubin מספקות יכולות חישוב רחבות, ואילו LPX מגביר את קצב יצירת הטוקנים בעומסי עבודה עם הקשר ארוך.
18
איך LPX משתלב בפלטפורמת Vera Rubin?
Nvidia מציבה את Groq 3 LPX כרכיב המרכזי השביעי בפלטפורמת Vera Rubin. בין רכיבי הפלטפורמה נמצא גם Vera CPU, שלפי Nvidia כולל 88 ליבות Olympus בעיצוב עצמי.
33
המעבד מיועד לטפל בעבודה שמסביב להרצת המודל — תזמור משימות, עיבוד נתונים, שימוש בכלים והרצת קוד. Nvidia הודיעה גם כי SpaceXAI מתכננת לפרוס מעבדי Vera עבור יישומי AI סוכניים מהדור הבא, ולהשתמש במערכת Vera Rubin NVL72 מותאמת עבור לוויין Starmind AI מהדור הראשון.
40
התמונה הכוללת משקפת את האסטרטגיה הרחבה יותר של Nvidia: לבנות "מפעלי AI" מרכיבים ייעודיים, במקום להניח שכל משימה צריכה להתבצע על GPU. בתפיסה הזו, המעבד מנהל ומתאם את עבודת הסוכנים, ה-GPU מטפל בחישוב הגמיש והרחב, ו-LPX מתמקד ביצירת תגובות מהירה וצפויה.
מה כלל הסכם ה-20 מיליארד דולר עם Groq?
ההשקה היא התוצאה המוצרית הברורה ביותר עד כה של ההסכם שעליו הכריזה Nvidia עם Groq בדצמבר 2025. עם זאת, לא מדויק לתאר אותו כרכישה מלאה של Groq.
לפי הדיווחים, מדובר ברישיון לא-בלעדי לטכנולוגיית ההסקה של Groq, לצד גיוסו של מייסד ומנכ״ל Groq, ג׳ונתן רוס, של הנשיא סאני מדרה ושל עובדים מרכזיים נוספים ל-Nvidia.
4
8
Groq המשיכה לפעול גם לאחר העסקה ואף גייסה מימון נוסף. הדבר תואם יותר עסקה שהתמקדה בטכנולוגיה ובכוח אדם מאשר רכישה של החברה התפעולית כולה.
3
המבנה הזה מסביר גם את האופן שבו שני הצדדים מציבים את המוצר: Nvidia שילבה את טכנולוגיית עיבוד השפה של Groq בפלטפורמת השרתים שלה, בעוד Groq ממשיכה לפעול כחברה עצמאית ומתכננת להשתמש בחומרה של Nvidia בענן שלה.
השורה התחתונה
החדשות אינן רק ש-Nvidia השיקה שבב AI נוסף. המשמעות החשובה יותר היא שהחברה מפרידה בין שלבי אספקת שירות AI ומקצה את השלב הרגיש ביותר לזמן תגובה למאיץ ייעודי.
עבור סוכנים אינטראקטיביים, decode מהיר יותר עשוי לגרום למשימות מרובות-שלבים להרגיש כמעט מיידיות. המבחן של Nvidia מצביע על ביצועים מרשימים בתצורה אחת של הקשר ארוך, אך התועלת בפועל תהיה תלויה ביישום ובשאר שכבות המערכת.
הכניסה לייצור מלא, ההשקה המתוכננת אצל Nebius והאימוץ המתוכנן אצל Groq יהיו המדדים החשובים יותר: הם יראו אם היתרון במבחן יוכל להפוך לביצועי ענן זמינים ורחבים — ולא להישאר רק במספר מרשים על דף הנתונים.