מה Nvidia הכריזה ב-Hot Chips?
ב-24 באוגוסט הודיעה Nvidia כי Groq 3 LPX — מאיץ היסק ייעודי בקנה מידה של rack — נכנס לייצור מלא. המאיץ הוא רכיב חדש בפלטפורמת Vera Rubin, ונועד בעיקר למערכות AI סוכניות: מערכות שמבצעות רצפים של פעולות, קריאות לכלים ושלבים מרובים לפני שהן מחזירות תשובה.
במקום לשמש כמעבד כללי לאימון מודלים או לכל שלבי ההיסק, LPX מתמקד במשימה שמורגשת ישירות למשתמש: יצירת הטוקנים הבאים במהירות ובאופן עקבי. מערכות Vera Rubin NVL72 ממשיכות לטפל בעומסי העבודה הרחבים יותר, ובהם אימון, עיבוד ההקשר ושלבי prefill והיסק כלליים.
3
6
3,431 טוקנים בשנייה
במבחן ביצועים של Artificial Analysis, מערכת Groq 3 LPX הריצה את מודל הקוד הפתוח Gemma 4 31B עם הקשר באורך 100,000 טוקנים. Nvidia הציגה את התוצאה כ-3,400 טוקנים לשנייה, בעוד שהנתון המדויק יותר שפורסם הוא 3,431 טוקנים לשנייה.
1
6
Nvidia טענה כי במקרה שימוש זה מדובר בתגובתיות מהירה פי ארבעה מזו של הפלטפורמה הקרובה ביותר. חשוב להדגיש שמדובר בתוצאה של מבחן ביצועים מסוים, עם מודל, אורך הקשר ותנאי בדיקה מוגדרים — ולא בהבטחה שכל מודל או כל יישום יגיעו לאותה מהירות.
6
איך LPX משתלב ב-Vera Rubin?
Nvidia מציבה את LPX כרכיב השביעי המרכזי של פלטפורמת Vera Rubin. לצדו נמצאים, בין היתר, מעבד Vera ומאיצי Rubin GPU. מעבד Vera כולל 88 ליבות Olympus בעיצוב מותאם אישית.
2
החלוקה בין הרכיבים נועדה ליצור תשתית AI הטרוגנית: ה-GPU ומערכות Rubin מספקים גמישות וחישוב בקנה מידה רחב, ואילו LPX מטפל בצוואר הבקבוק של יצירת הפלט — השלב שקובע במידה רבה עד כמה סוכן AI מרגיש מהיר ואינטראקטיבי למשתמש.
3
6
מי צפוי להשתמש במאיץ?
Nebius הוכרזה כלקוחת הענן הראשונה של Groq 3 LPX, ומתכננת להוסיף את המאיץ לפלטפורמת ההיסק שלה Token Factory.
6
גם Groq עצמה מסרה כי תהיה בין המאמצות הראשונות. החברה מתכננת לפרוס את LPX לצד Vera Rubin NVL72 בענן AI ייעודי להיסק.
4
תיקון חשוב: Nvidia לא רכשה את Groq
למרות האופן שבו העסקה מתוארת לעיתים, הראיות הזמינות אינן מצביעות על רכישה מלאה של Groq. לפי הדיווחים, Nvidia חתמה על הסכם רישוי לא-בלעדי לטכנולוגיית ההיסק של Groq, ובמסגרתו גייסה את המייסד והמנכ"ל ג'ונתן רוס, את הנשיא סאני מדרה ומנהלים מרכזיים נוספים. Groq עצמה המשיכה לפעול ואף גייסה לאחר מכן מימון חדש.
5
גם כמה טענות טכניות נוספות — ובהן מספר שבבים מסוים בכל rack, נפח SRAM על-שבבי, השוואות ייצור בין Samsung ל-TSMC ותגובות של חברות כמו AMD, Cerebras או OpenAI — אינן מבוססות די הצורך במקורות שסופקו.
המקורות כן תומכים בכך ש-SpaceXAI מתכננת לפרוס מעבדי Vera ליישומי AI סוכני, אך אינם מאשרים את הפרטים המלאים לגבי ביצוע כלים, סימולציות במסלול או לוח הזמנים המדויק של הפריסה.
7