מדוע מתלה ה-Vera Rubin AI של Nvidia עשוי לעלות 7.8 מיליון דולר

אנליסטים מעריכים כי מתלה Vera Rubin NVL72 בודד עשוי לעלות כ-7.8 מיליון דולר, בערך כפול ממחיר הדור המבוסס על Blackwell.

עלייה זו מתוארת כרחבה ומקיפה את כל המערכת, ואינה מוגבלת לסיליקון ה-GPU בלבד. מהערכות המובאות בדיווחי שרשרת האספקה עולה:

• עלות רכיבי הזיכרון גבוהה בכ-435%
• עלות רכיבי ה-PCB (לוחות מעגלים מודפסים) גבוהה בכ-233%
• עלות קבלים קרמיים רב-שכבתיים (MLCC) גבוהה בכ-182%
• עלות מצעי ABF גבוהה בכ-82%

במילים אחרות, כמעט כל תת-מערכת בתוך המתלה הופכת ליקרה יותר ככל שמערכות AI גדלות במורכבותן.

הזיכרון הוא גורם העלות הגדול ביותר

העלייה הדרמטית ביותר מגיעה מטכנולוגיות זיכרון מהדור הבא המשמשות בפלטפורמת Rubin.

GPUs של Rubin מסתמכים על HBM4 (High Bandwidth Memory), הדור הבא אחרי HBM3 ו-HBM3e, שנועד לספק רוחב פס עצום עבור מודלי AI גדולים.

במקביל, הפלטפורמה מציגה תת-מערכת זיכרון LPDDR5X גדולה המחוברת ל-Vera CPU החדש של Nvidia, ומספקת עד 1.5 TB של קיבולת זיכרון באמצעות מודולי SOCAMM.

ספקיות זיכרון כבר החלו בייצור חלקים אלה במיוחד עבור מערכת Rubin. לדוגמה, Micron אישרה ייצור בהיקף גבוה של ערימות HBM4 ומודולי SOCAMM2 המיועדים לפלטפורמה זו.

מכיוון ש-Rubin משלבת:

• ערימות HBM4 ברוחב פס גבוה עבור GPUs
• מאגרי LPDDR5X בנפח גדול עבור CPUs

...טביעת הרגל הכוללת של הזיכרון והעלות למתלה עולים באופן דרמטי. על פי הערכות מסוימות, הזיכרון לבדו עשוי להוות כרבע מעלות המתלה הכוללת, הרבה יותר מאשר בדורות קודמים.

מורכבות המערכת עולה בכל המתלה

הזיכרון אינו הגורם היחיד. פלטפורמת Rubin משלבת מספר שבבים ייעודיים וטכנולוגיות רשת שמגבירות את מורכבות המערכת.

הארכיטקטורה משלבת מספר רכיבים צמודים, כולל:

• מעבדי Vera CPU
• GPUs מדגם Rubin
• מתגי NVLink
• כרטיסי רשת ConnectX SuperNIC
• מעבדי BlueField DPU
• מתגי Ethernet מסוג Spectrum

רמת אינטגרציה זו בקנה מידה של מתלה דורשת לוחות, קישורים ומערכות אספקת חשמל מתקדמים בהרבה מאלה ששימשו בשרתי AI מוקדמים יותר.

כתוצאה מכך, אנליסטים מדווחים על עליות משמעותיות בעלויות החומרה התומכת:

• PCBs: יותר שכבות וחומרים באיכות גבוהה יותר לתמיכה באיתות במהירות גבוהה
• MLCCs: כמויות גבוהות יותר של רכיבים פסיביים הנחוצים ליציבות הספק
• מצעי ABF: מצעי אריזה גדולים ומתקדמים יותר עבור השבבים

רכיבים אלה אולי נראים זניחים בנפרד, אבל על פני מתלה המכיל עשרות מאיצים והתקני רשת, הם מצטברים לעלות משמעותית.

GPUs עדיין יקרים – אבל כבר לא שולטים בתמחור

ה-GPU נשאר הרכיב הבודד הגדול ביותר במערכת, אך חלקו בעלות הכוללת הולך ומצטמצם ככל שתת-המערכות האחרות מתרחבות.

על פי הערכות מסוימות, עלותו של GPU Rubin בודד היא כ-55,000 דולר לשבב, המייצגת עלייה של כ-57% לעומת דור Blackwell.

עם זאת, הצמיחה המהירה יותר בזיכרון ורכיבי המערכת פירושה שה-GPU מהווה אחוז קטן יותר מעלות המתלה הכוללת מאשר בעבר.

שינוי זה משקף תפנית מהותית בתכנון חומרת AI: הביצועים תלויים יותר ויותר בארכיטקטורת המערכת כולה, לא רק במאיץ.

מדוע זה חשוב לשרשרת אספקת ה-AI

למבנה העלויות המשתנה יש השלכות חשובות על פני מערכת השבבים כולה.

ראשית, הוא מרחיב את מספר החברות הנהנות מגל ה-AI. ספקיות המייצרות:

• זיכרון HBM ו-DRAM
• מצעי אריזה מתקדמים
• PCBs רב-שכבתיים
• רכיבים פסיביים

לוכדות נתח הולך וגדל מהערך בתשתיות AI.

שנית, הוא מגביר את החשיבות של אספקת זיכרון ויכולת אריזה מתקדמת. מכיוון ש-Rubin תלויה מאוד בייצור HBM4, מגבלות בשרשרת אספקת הזיכרון עלולות להשפיע ישירות על קצב פריסת תשתיות ה-AI.

לבסוף, בוני מערכות – במיוחד יצרני ODM ו-OEM שמרכיבים שרתי AI בקנה מידה של מתלה – עשויים ללכוד יותר ערך מכיוון שהמערכות עצמן הופכות מורכבות יותר.

התמונה הגדולה: חומרת AI הופכת למחשוב-על ברמת מתלה

תג המחיר הצפוי של 7.8 מיליון דולר מדגיש באיזו מהירות תשתיות ה-AI מתפתחות.

דורות קודמים של שרתי AI היו בעצם מאיצי GPU שחוברו לשרתים סטנדרטיים. פלטפורמות חדשות כמו Rubin מתוכננות כמחשבי-על AI משולבים לחלוטין במתלה, המשלבים מחשוב, זיכרון, רשת וארכיטקטורת אחסון במערכת אחת צמודה ומותאמת.

התמורה הזו היא הסיבה לכך שעלותו של מתלה בודד יכולה כעת להתחרות במחיר של התקנת מרכז נתונים קטנה – ומדוע הכלכלה של חומרת AI מתרחבת הרחק מעבר ל-GPUs בלבד.

הערה חשובה: הנתון של 7.8 מיליון דולר הוא הערכת אנליסטים המבוססת על ניתוח שרשרת אספקה, ו-Nvidia לא אישרה רשמית תמחור למערכות Rubin.

אבל בלי קשר למספר המדויק, הכיוון ברור: הדור הבא של תשתיות AI יוגדר פחות על ידי שבב בודד ויותר על ידי המערכת כולה שמקיפה אותו.