ארכיטקטורה וביצועי חישוב

המאיצים האמריקאיים מובילים כיום בביצועי עיבוד גולמיים מתועדים לאימון AI בקנה מידה גדול. לדוגמה, ה-MI325X של AMD מגיע לכ-1.3 PFLOPS FP16, בעוד ש-TPU v6e של גוגל מספק 918 TFLOPs bf16 לשבב.

שבבים סיניים כמו Ascend 910C של Huawei שואפים לצמצם את הפער, עם הערכות של כ-800 TFLOPS FP16 באמצעות תצורת dual-chiplet.

מאיץ BR100 של Biren מייצג ניסיון סיני נוסף להתחרות בקצה הגבוה, ומספק עד 256 TFLOPS FP32 וכ-2,048 TOPS INT8 בעיצוב GPU רב-שבבי.

ה-MLU370‑X8 של Cambricon מיועד לעומסי עבודה של הסקה ואימון AI עם יכולות של 256 TOPS INT8 ו-96 TFLOPS FP16.

זיכרון ורוחב פס

מודלי AI מודרניים מסתמכים במידה רבה על קיבולת ורוחב פס של זיכרון, מה שהופך את שילוב ה-HBM לקריטי.

• AMD MI325X כולל 256GB של זיכרון HBM3E ורוחב פס של כ-6 TB/s, אחת מקיבולות הזיכרון הגדולות ביותר בקרב מאיצי AI.
• TPU v6e משתמש ב-32GB HBM עם רוחב פס של כ-1.6 TB/s, אך מתוכנן להתרחב למאות שבבים מחוברים בפודי TPU.
• Huawei Ascend 910C מדווח כמגיע לרוחב פס זיכרון של כ-3.2 TB/s, התומך בעומסי עבודה של מודלים בקנה מידה גדול.
• Biren BR100 כולל 64GB זיכרון HBM2E ורוחב פס של כ-2.3 TB/s.

רוחב פס גבוה יותר של זיכרון מסייע להאיץ פעולות מטריצות ואימון מודלים גדולים, אשר מעבירים לעתים קרובות טנסורים מסיביים בין יחידות זיכרון וחישוב.

תקשורת בין-שבבית (Interconnect) והיקף

מודלי AI גדולים מאומנים לעתים רחוקות על שבב בודד. במקום זאת, מאות או אלפי מאיצים מחוברים לאשכולות.

• שבבי TPU v6e של גוגל מתחברים באמצעות רשת Inter-Chip Interconnect (ICI) ייעודית המיועדת לפודי TPU המכילים עד 256 שבבים.
• ה-MLU370‑X8 של Cambricon משתמש ב-MLU‑Link, המספק תפוקת תקשורת של 200GB/s בין כרטיסים לאימון רב-GPU.
• GPUs של Biren כוללים קישורי interconnect GPU-to-GPU מהירים המיועדים לאשכולות מרובי מאיצים.

ארכיטקטורת אשכול הופכת חשובה לא פחות מביצועי השבב הבודד.

ייצור ושרשראות אספקה

טכנולוגיית הייצור משפיעה מאוד על הביצועים ועל יעילות האנרגיה.

שבבי AI סיניים רבים מסתמכים על טכנולוגיות ייצור חיצוניות. לדוגמה, BR100 של Biren נבנה באמצעות תהליך 7 ננומטר של TSMC ואריזה מתקדמת CoWoS.

שבבי Ascend החדשים יותר של Huawei משלבים עיצובים המיוצרים בתהליך 7 ננומטר של SMIC עם פרוסות קודמות שיוצרו לפני הגבלות הייצוא האמריקאיות.

לעומת זאת, שבבים שתוכננו בארה"ב מסתמכים בדרך כלל על יצרניות מתקדמות ושרשראות אספקה המסוגלות לייצר צמתים וטכנולוגיות אריזה חדישות.

מערכת אקולוגית ותוכנה

ביצועי חומרה לבדם אינם קובעים הצלחה במחשוב AI.

• שבבים אמריקאיים נהנים ממערכות אקולוגיות בוגרות כמו CUDA (Nvidia), ROCm (AMD) ומחסנית התוכנה של TPU של גוגל.
• Huawei מקדמת את מסגרת CANN (Compute Architecture for Neural Networks) עבור שבבי Ascend כדי לבנות מערכת אקולוגית תוכנה מקומית.

כלי פיתוח, פלטפורמות ענן ואינטגרציה עם מסגרות עבודה קובעים לעתים קרובות איזו חומרה מאומצת לעומסי עבודה AI בעולם האמיתי.

מה ההשוואה מראה

מספר דפוסים עולים מהדור הנוכחי של מאיצי AI:

• הובלת ביצועים: מאיצים אמריקאיים מראים כרגע ביצועי שיא מתועדים גבוהים יותר ויכולות זיכרון גדולות יותר.
• חלופות מקומיות: סין בנתה מספר קווי שבבים מתחרים – כולל Ascend, GPUs של Biren ומאיצי Cambricon – כדי להפחית את התלות בחומרה אמריקאית.
• אסטרטגיית אשכולות: שני הצדדים מתחרים יותר ויותר באמצעות מערכות AI גדולות ואשכולות בקנה מידה של מחשבי-על, ולא באמצעות שבבים בודדים.

מירוץ שבבי ה-AI הוא אפוא לא רק תחרות של ספירת טרנזיסטורים או TFLOPs – זוהי גם תחרות בין מערכות אקולוגיות, יכולת ייצור ויכולת להרחיב אלפי מאיצים לתשתית AI יעילה.

ככל שמודלי AI גנרטיביים ממשיכים לגדול, הבדלים אלה בארכיטקטורה, במערכות זיכרון ובמערכות אקולוגיות תוכנה יקבעו ככל הנראה אילו פלטפורמות ישלטו במחשוב ה-AI העתידי.

ארכיטקטורה וביצועי חישוב

המאיצים האמריקאיים מובילים כיום בביצועי עיבוד גולמיים מתועדים לאימון AI בקנה מידה גדול. לדוגמה, ה-MI325X של AMD מגיע לכ-1.3 PFLOPS FP16, בעוד ש-TPU v6e של גוגל מספק 918 TFLOPs bf16 לשבב.

שבבים סיניים כמו Ascend 910C של Huawei שואפים לצמצם את הפער, עם הערכות של כ-800 TFLOPS FP16 באמצעות תצורת dual-chiplet.

מאיץ BR100 של Biren מייצג ניסיון סיני נוסף להתחרות בקצה הגבוה, ומספק עד 256 TFLOPS FP32 וכ-2,048 TOPS INT8 בעיצוב GPU רב-שבבי.

ה-MLU370‑X8 של Cambricon מיועד לעומסי עבודה של הסקה ואימון AI עם יכולות של 256 TOPS INT8 ו-96 TFLOPS FP16.

זיכרון ורוחב פס

מודלי AI מודרניים מסתמכים במידה רבה על קיבולת ורוחב פס של זיכרון, מה שהופך את שילוב ה-HBM לקריטי.

• AMD MI325X כולל 256GB של זיכרון HBM3E ורוחב פס של כ-6 TB/s, אחת מקיבולות הזיכרון הגדולות ביותר בקרב מאיצי AI.
• TPU v6e משתמש ב-32GB HBM עם רוחב פס של כ-1.6 TB/s, אך מתוכנן להתרחב למאות שבבים מחוברים בפודי TPU.
• Huawei Ascend 910C מדווח כמגיע לרוחב פס זיכרון של כ-3.2 TB/s, התומך בעומסי עבודה של מודלים בקנה מידה גדול.
• Biren BR100 כולל 64GB זיכרון HBM2E ורוחב פס של כ-2.3 TB/s.

רוחב פס גבוה יותר של זיכרון מסייע להאיץ פעולות מטריצות ואימון מודלים גדולים, אשר מעבירים לעתים קרובות טנסורים מסיביים בין יחידות זיכרון וחישוב.

תקשורת בין-שבבית (Interconnect) והיקף

מודלי AI גדולים מאומנים לעתים רחוקות על שבב בודד. במקום זאת, מאות או אלפי מאיצים מחוברים לאשכולות.

• שבבי TPU v6e של גוגל מתחברים באמצעות רשת Inter-Chip Interconnect (ICI) ייעודית המיועדת לפודי TPU המכילים עד 256 שבבים.
• ה-MLU370‑X8 של Cambricon משתמש ב-MLU‑Link, המספק תפוקת תקשורת של 200GB/s בין כרטיסים לאימון רב-GPU.
• GPUs של Biren כוללים קישורי interconnect GPU-to-GPU מהירים המיועדים לאשכולות מרובי מאיצים.

ארכיטקטורת אשכול הופכת חשובה לא פחות מביצועי השבב הבודד.

ייצור ושרשראות אספקה

טכנולוגיית הייצור משפיעה מאוד על הביצועים ועל יעילות האנרגיה.

שבבי AI סיניים רבים מסתמכים על טכנולוגיות ייצור חיצוניות. לדוגמה, BR100 של Biren נבנה באמצעות תהליך 7 ננומטר של TSMC ואריזה מתקדמת CoWoS.

שבבי Ascend החדשים יותר של Huawei משלבים עיצובים המיוצרים בתהליך 7 ננומטר של SMIC עם פרוסות קודמות שיוצרו לפני הגבלות הייצוא האמריקאיות.

לעומת זאת, שבבים שתוכננו בארה"ב מסתמכים בדרך כלל על יצרניות מתקדמות ושרשראות אספקה המסוגלות לייצר צמתים וטכנולוגיות אריזה חדישות.

מערכת אקולוגית ותוכנה

ביצועי חומרה לבדם אינם קובעים הצלחה במחשוב AI.

• שבבים אמריקאיים נהנים ממערכות אקולוגיות בוגרות כמו CUDA (Nvidia), ROCm (AMD) ומחסנית התוכנה של TPU של גוגל.
• Huawei מקדמת את מסגרת CANN (Compute Architecture for Neural Networks) עבור שבבי Ascend כדי לבנות מערכת אקולוגית תוכנה מקומית.

כלי פיתוח, פלטפורמות ענן ואינטגרציה עם מסגרות עבודה קובעים לעתים קרובות איזו חומרה מאומצת לעומסי עבודה AI בעולם האמיתי.

מה ההשוואה מראה

מספר דפוסים עולים מהדור הנוכחי של מאיצי AI:

• הובלת ביצועים: מאיצים אמריקאיים מראים כרגע ביצועי שיא מתועדים גבוהים יותר ויכולות זיכרון גדולות יותר.
• חלופות מקומיות: סין בנתה מספר קווי שבבים מתחרים – כולל Ascend, GPUs של Biren ומאיצי Cambricon – כדי להפחית את התלות בחומרה אמריקאית.
• אסטרטגיית אשכולות: שני הצדדים מתחרים יותר ויותר באמצעות מערכות AI גדולות ואשכולות בקנה מידה של מחשבי-על, ולא באמצעות שבבים בודדים.

מירוץ שבבי ה-AI הוא אפוא לא רק תחרות של ספירת טרנזיסטורים או TFLOPs – זוהי גם תחרות בין מערכות אקולוגיות, יכולת ייצור ויכולת להרחיב אלפי מאיצים לתשתית AI יעילה.

ככל שמודלי AI גנרטיביים ממשיכים לגדול, הבדלים אלה בארכיטקטורה, במערכות זיכרון ובמערכות אקולוגיות תוכנה יקבעו ככל הנראה אילו פלטפורמות ישלטו במחשוב ה-AI העתידי.