מדוע חברות ה-AI בסין מותחות כל כרטיס Nvidia עד הקצה

המחסור של סין בתשתיות AI כבר אינו מתרחש רק בשלב שבו מאמנים מודלים גדולים. כשהמודלים עוברים מניסויים ומענה על שאלות בודדות לפריסה רחבה אצל צרכנים וארגונים, החברות נדרשות לטפל בכמויות עצומות של בקשות בזמן אמת — רבות מהן מגיעות מסוכנים שמסוגלים להסיק מסקנות, להפעיל כלים ולבצע משימות מרובות שלבים.

במצב כזה, הבעיה המרכזית היא לא רק כמה שבבים יש לחברה, אלא כמה עבודה אמינה ואיכותית הם מסוגלים לבצע.

מה ההבדל בין אימון להיסק?

אימון הוא השלב שבו המודל לומד מדוגמאות ומפתח את היכולות שלו. היסק (Inference) הוא השלב המאוחר יותר, שבו המודל המאומן מייצר תשובות עבור משתמשים ומערכות.

חלק מעומסי ההיסק אפשר להתאים לחומרה מקומית. אך במשימות תובעניות נדרשת עדיין שילוב של ביצועים, זיכרון, אמינות ותוכנה בשלה — שילוב שקשה להחליף במהירות.

לכן חברות ה-AI הסיניות פועלות עם תשתית מעורבת: מאיצים מקומיים מטפלים בחלק מהעומס, ואוסף מוגבל של מעבדי Nvidia מתקדמים נשמר למשימות שהכי קשה להעביר לחומרה אחרת. דיווחים מהתעשייה מצביעים במיוחד על עומסי עבודה מורכבים בתחום כתיבת הקוד כנקודת לחץ מרכזית.

מדוע קוד וסוכני AI צורכים כל כך הרבה כוח חישוב?

שאלה קצרה ותשובה ישירה עשויות לדרוש משאבים מוגבלים יחסית. לעומת זאת, עוזר תכנות או סוכן אוטונומי עשוי להידרש לשמור הקשר ארוך, לכתוב קוד, להפעיל כלים חיצוניים, לבדוק את התוצאה ולתקן את התשובה שוב ושוב.

כל שלב כזה מוסיף עומס. לכן אם שבבים מקומיים מספקים ביצועים או יעילות נמוכים יותר במשימות מורכבות של קוד והסקה, העברת כל פעילות ההיסק אליהם עלולה לפגוע באיכות או ביעילות. במצב זה, מעבדי Nvidia הנדירים חייבים להיות מוקצים למשימות שבהן היתרון שלהם משמעותי ביותר.

טוקן אחד אינו שווה בהכרח לטוקן אחר

ספירת טוקנים — יחידות הטקסט הבסיסיות שמעבד מודל שפה — היא מדד שימושי לביקוש, אך היא אינה מתארת עומסי עבודה זהים.

טוקנים שנוצרים עבור צ'אט פשוט, סיווג או תשובה קצרה יכולים לרוץ על חומרה זולה יותר. לעומתם, תשובה איכותית ממודל חזק, תהליך reasoning ארוך או סדרה של קריאות לכלים חיצוניים דורשים יותר חישוב — ולעיתים גם שווים יותר ללקוח.

זו הסיבה שגידול במספר הטוקנים הכולל עלול להסתיר מחסור חריף עוד יותר ביכולת להפיק טוקנים איכותיים. ייתכן שהשוק מייצר יותר טוקנים בסך הכול, ובכל זאת סובל ממחסור בציוד הדרוש למשימות מורכבות ואמינות. ההתמקדות בהגדלת קיבולת הטוקנים האיכותיים ובשילוב של משאבי חישוב מסוגים שונים משקפת את ההבדל הזה.

הביקוש זינק מהר יותר מהקיבולת

היקף קריאות הטוקנים היומי הממוצע בסין עבר 140 טריליון במרץ 2026, לעומת כ-100 מיליארד בתחילת 2024 — עלייה של יותר מפי 1,000, לפי נתונים שדווחו מטעם מינהל הנתונים הלאומי של סין.

המספר הזה מסמן שינוי באופן שבו נעשה שימוש ב-AI. מודלים עוברים משלב ההתנסות אל עוזרים דיגיטליים, תוכנות ארגוניות וסוכנים שמבצעים תהליכי עבודה בעולם האמיתי. כתוצאה מכך, ההיסק הופך למנוע מרכזי של צריכת כוח חישוב, ולא לשלב משני שמגיע אחרי האימון.

למה אופטימיזציה של תוכנה היא המנוף המהיר ביותר?

הגדלת מאגר המעבדים המתקדמים אינה פשוטה: הגבלות יצוא מצמצמות את הגישה למוצרי Nvidia החדשים ביותר, ההיצע מוגבל, והחלפה של אקוסיסטם חומרה ותוכנה כרוכה בעלויות גבוהות. מודלים, כלי פיתוח ותהליכי עבודה קיימים קשורים במידה רבה לפלטפורמות תוכנה מבוססות, ולכן גם מעבר לשבבים מקומיים יוצר עלויות הנדסיות משמעותיות.

תוכנה אינה יכולה לייצר סיליקון חדש, אבל היא יכולה להגדיל את כמות העבודה השימושית שכל מעבד מפיק. בין האסטרטגיות המרכזיות:

• ניתוב עומסי עבודה: שליחת בקשות פשוטות למאיצים זולים יותר או לשבבים מקומיים, ושמירת מעבדי Nvidia למשימות מורכבות.
• הגשה יעילה יותר: שיפור האופן שבו בקשות מקובצות ומתוזמנות, כדי לצמצם את הזמן שבו החומרה אינה מנוצלת.
• פריסה מודעת למשאבים: התאמת גודל המודל, אורך ההקשר ואסטרטגיית התשובה לערך ולרמת הקושי של כל בקשה.
• תשתית הטרוגנית: שילוב ארכיטקטורות שונות, במקום לדרוש שכל עומס עבודה ירוץ על פלטפורמה אחת.

הצעדים האלה יכולים לגשר על הפער בין ביקוש גדל להיצע מוגבל. עם זאת, הם אינם תחליף מלא לחומרה המתקדמת ביותר, במיוחד כאשר משימות רגישות לאיכות עדיין תלויות במעבדים ספורים יחסית.

הלחץ העסקי: יותר שימוש, פחות הכנסה מכל טוקן

המחסור קשה יותר לפתרון משום שמחירי ההיסק נמצאים תחת לחץ. אנליסטים בג'פריס העריכו כי מחירם הממוצע של טוקנים במודלים סיניים הוא בערך שישית ממחירם בהצעות של חברות אמריקאיות גדולות.

מחירים נמוכים עשויים להאיץ את האימוץ, אך הם גם מגבילים את ההכנסות הזמינות למימון כוח החישוב היקר. במקביל, עוזרי תכנות ומוצרים המבוססים על סוכנים צורכים בדרך כלל יותר משאבים מצ'אט פשוט.

כך נוצר שילוב בעייתי: הביקוש מתרחב במהירות, הלקוחות מצפים למחיר נמוך, והיכולת המתקדמת ביותר להפעיל משימות מורכבות אינה ניתנת להרחבה או להחלפה בקלות.

הלחץ הזה כבר בא לידי ביטוי בזמינות השירותים. דיווחים מהשוק תיארו מפתחי מודלים וספקיות ענן סיניים גדולים שמגבילים קצב, מקצים גישה במנות או מעלים מחירים, לאחר שהביקוש עבר את משאבי החישוב הזמינים — במיוחד בשירותים עתירי משאבים כמו עוזרי תכנות.

המשמעות הרחבה יותר

האתגר של תעשיית ה-AI הסינית אינו מסתכם במחסור בשבבים. מדובר במחסור בשילוב הנכון של מעבדים מתקדמים, תוכנה תואמת וקיבולת חסכונית להפעלת משימות היסק בעלות ערך גבוה.

ככל שהתוכנה תשתפר, החומרה המקומית תוכל לספוג חלק גדול יותר מהעומס — במיוחד כאשר המערכות יתוכננו מראש בהתאם לחוזקות שלה. אך לפי התמונה הנוכחית, האסטרטגיה הסינית היא בעיקר אסטרטגיית מעבר: לייעל כל שכבה של ההיסק, להשתמש בשבבים מקומיים היכן שהם יעילים, ולשמור את קיבולת Nvidia המוגבלת למשימות הקשות ביותר.

הגישה הזו יכולה להאריך את חיי המשאבים הקיימים, אך הצמיחה המתמשכת של AI מבוסס-סוכנים תלויה בסופו של דבר בשאלה אם סין תצליח להרחיב גם את היצע החומרה וגם את אקוסיסטם התוכנה שמאפשר להפעיל מעבדים מסוגים שונים באופן מעשי וכלכלי.