AnswersPublished15 sources
השבב המותאם של OpenAI טוען ליתרון על מערכות Nvidia — אבל רק במבחן מסוים
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל וואט ופי 1.7–3.6 פחות השהיה מקצה לקצה לעומת מערכות Nvidia שנבדקו. ב־GPT‑OSS 120B מול GB200 נמדדו, לפי OpenAI, 1,459 טוקנים לשנייה למשתמש לעומת 535 — וכן השהיה של 1.03 שניות לעומת 1.80 שניות.
פורסם על ידיהתמונות נוצרו באמצעות GPT Image 1.5
Research answer
Key takeaways
- OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל וואט ופי 1.7–3.6 פחות השהיה מקצה לקצה לעומת מערכות Nvidia שנבדקו.
- ב־GPT‑OSS 120B מול GB200 נמדדו, לפי OpenAI, 1,459 טוקנים לשנייה למשתמש לעומת 535 — וכן השהיה של 1.03 שניות לעומת 1.80 שניות.
- ב־DeepSeek R1 מול GB300 דיווחה החברה על כ־700 טוקנים לשנייה למשתמש לעומת 169, ועל השהיה של 1.65 שניות לעומת 5.99 שניות.
- Jalapeño מיועד להסקה — הרצת מודל שכבר אומן — ולא לאימון מודלים. לכן OpenAI תמשיך להסתמך גם על מאיצים של Nvidia, AMD וחברות נוספות.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed.. Topic tags: general web, openai, llm, agents, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
השורה התחתונה
OpenAI טוענת כי Jalapeño — המאיץ המותאם הראשון שלה, שפותח יחד עם Broadcom — גבר על מערכות המדף של Nvidia, המבוססות על GB200 ו־GB300, בשני מדדים מרכזיים להרצת מודלי AI: יעילות אנרגטית ומהירות תגובה. 4
7
עם זאת, חשוב לסייג את הכותרת: אלה תוצאות ראשונות שפורסמו על ידי OpenAI, במסגרת תצורות ומודלים שנבחרו למבחן. הן אינן מהוות השוואה בלתי תלויה, "תפוחים לתפוחים", לכל עומסי העבודה האפשריים במערכות AI ייצוריות.
מה הראו המבחנים?
במבחני InferenceX של SemiAnalysis, שנערכו על GPT‑OSS 120B, DeepSeek R1 670B ו־Kimi K2.5 1T, דיווחה OpenAI על:
- פי 1.5–1.9 יותר עבודה של AI לכל וואט בקצב התפוקה המרבי.
- פי 1.7–3.6 פחות השהיה מקצה לקצה.
- בעומסי עבודה אינטראקטיביים במיוחד, פי 2.1–4.1 יותר ביצועים, לפי החברה.
4
GPT‑OSS 120B מול Nvidia GB200
בהשוואה למערכת GB200, OpenAI דיווחה על תפוקה מעורבת מרבית של 85,448 יחידות עבודה לקילוואט, לעומת 44,960 במערכת Nvidia — יתרון של פי 1.9.
ההשהיה מקצה לקצה עמדה על 1.03 שניות, לעומת 1.80 שניות ב־GB200, כלומר ירידה של פי 1.7. במדד הזמן המינימלי בין טוקנים התקבלה תוצאה של 0.69 אלפיות השנייה, או 1,459 טוקנים לשנייה למשתמש, לעומת 1.87 אלפיות השנייה ו־535 טוקנים לשנייה למשתמש ב־GB200. 4
DeepSeek R1 מול Nvidia GB300
ב־DeepSeek R1 בפורמט MXFP4, מול GB300, דיווחה OpenAI על 19,641 יחידות עבודה לקילוואט לעומת 11,781 — יתרון של פי 1.7.
ההשהיה המקצה לקצה ירדה, לפי הנתונים, מ־5.99 שניות ב־GB300 ל־1.65 שניות ב־Jalapeño, או פי 3.6 פחות. הזמן המינימלי בין טוקנים היה 1.43 אלפיות השנייה, המשקף כ־700 טוקנים לשנייה למשתמש, לעומת 169 ב־GB300. 4
Kimi K2.5 מול GB300
ב־Kimi K2.5 בפורמט MXFP4 דיווחה OpenAI על פי 1.5 יותר תפוקה לכל קילוואט ופי 3.4 פחות השהיה מקצה לקצה. בקצב המינימלי בין טוקנים נמדדו כ־694 טוקנים לשנייה למשתמש, לעומת 182 במערכת GB300. 4
מה מיוחד בארכיטקטורה של Jalapeño?
Jalapeño אינו GPU כללי שהותאם בדיעבד להרצת מודלי שפה, אלא מאיץ שנבנה במיוחד להסקה של מודלי LLM. OpenAI תרמה את תכנון המאיץ, Broadcom הייתה אחראית על מימוש הסיליקון והקישוריות, ו־Celestica טיפלה בשילוב הלוחות, המדפים והמערכת. 1
התכנון שנחשף הוא תכנון בקנה מידה של מדף, עם רשת מחוברת המשתרעת על תחום גדול. המטרה היא להשאיר את עומס העבודה בתוך מערכת אחת ולמקם את מצב המודל — כולל מטמון KV, שמכיל מידע הדרוש להמשך יצירת הטקסט — קרוב ככל האפשר לחישוב. כך ניתן לצמצם העברת נתונים בין שבבים ואת זמני ההמתנה שנוצרים בגלל תקשורת.
בניגוד לעיצובים שמפרידים בין שלב עיבוד הקלט, המכונה prefill, לבין שלב יצירת הטוקנים, המכונה decode, OpenAI אומרת כי Jalapeño משתמש באותם משאבי חישוב, זיכרון ורשת לשני השלבים. ההבחנה חשובה: עיבוד הפרומפט נוטה להיות עתיר חישוב, בעוד שיצירת התשובה טוקן אחר טוקן תלויה במידה רבה ברוחב פס הזיכרון. 4
המידע הציבורי על מפרט המערכת עדיין חלקי. דוח טכני אחד מתאר מערכת עם 128 שבבים, כ־1.7 אקסה־פלופס וכ־27 טרה־בייט של זיכרון HBM, אך פוסט המבחנים של OpenAI אינו כולל רשימת רכיבים מלאה של המדף. 4
תשעה חודשים בלבד עד ל־tape-out
OpenAI אומרת שעברה מתכנון ראשוני ל־tape-out — השלב שבו עיצוב השבב נשלח לייצור — בתוך תשעה חודשים. החברה מציגה זאת כמחזור פיתוח מהיר במיוחד עבור ASIC מתקדם בעל ביצועים גבוהים. 1
לדברי OpenAI, המודלים שלה סייעו בתכנון, בבחינת חלופות מימוש, במדידות, באימות, באופטימיזציה של מעגלים אריתמטיים ובכתיבת תוכנה. החברה מוסיפה כי Codex, יחד עם GPT‑Astra, סייע להביא שלושה מודלים פתוחים שלא תוכננו מראש לביצועים גבוהים בתוך חודשיים.
בכמה בלוקים של מנגנון הקשב ושל ארכיטקטורת mixture-of-experts ב־GPT‑OSS, מימושים שנוצרו בסיוע AI היו מהירים פי 1.5–1.8 ממימושים קודמים שנכתבו בידי בני אדם. אלה נתונים ברמת בלוק בודד, ולא תוצאות של מודל שלם. 4
למה צריך להיזהר מהשוואת הביצועים?
ראשית, Jalapeño מיועד להסקה בלבד ולא לאימון. אימון מודלים גדולים דורש תכונות אחרות, ולכן OpenAI תמשיך להשתמש במאיצים של Nvidia, AMD וספקים נוספים גם לאימון וגם לחלק מעומסי ההסקה שלה. 4
6
שנית, המבחן התבסס על InferenceX — מדד ציבורי של SemiAnalysis — בתרחיש חד־פעמי עם קלט נומינלי של 8,000 טוקנים ופלט של 1,000 טוקנים. הוא מודד את תהליך הגשת הבקשה המלא, ומנרמל את התוצאות לפי דירוגי ההספק שפורסמו לשבבים. 4
7
OpenAI מציינת הספק חבילה של 700 ואט ל־Jalapeño, אך אומרת שההספק שנמדד לאורך זמן היה 550 ואט או פחות בעומסי העבודה האלה. מערכות GB200 ו־GB300 חושבו לפי 1,200 ו־1,400 ואט, בהתאמה. לכן היתרון של Jalapeño בביצועים לכל וואט תלוי גם באופי העומס וגם באופן שבו מחושב ההספק. 4
SemiAnalysis אומרת שנציגיה צפו בהרצות במעבדה של OpenAI, אך לא הפעילו בעצמם את כל חבילת המבחנים. הארגון מזהיר גם שמבחן InferenceX החד־פעמי אינו בודק הקשרים ארוכים, שיחות מרובות־סבבים, סוכני AI, ניתוב, שמירת prefix cache, ניהול מטמון או העברת נתונים לאחסון אחר. כל אחד מהגורמים האלה עשוי לשנות את הביצועים במערכת ייצור אמיתית. 4
גם ההשוואה עצמה מוגבלת בזמן. GB200 ו־GB300 הן מערכות מסחריות מדור Blackwell של Nvidia, וייתכן שבעתיד יהיה נכון להשוות את Jalapeño לפלטפורמות חדשות יותר. Nvidia מפרסמת בנפרד נתוני תפוקה ל־DeepSeek R1 על GB300 במסגרת מתודולוגיית offline של MLPerf. אי אפשר להשוות נתונים אלה ישירות למדד האינטראקטיבי של טוקנים למשתמש שבו השתמשה OpenAI. 2
4
האם OpenAI תמכור את השבב?
לא בשלב זה. OpenAI מתכננת פריסה מוגבלת של מערכות המבוססות על Jalapeño בתוך תשתיות המחשוב שלה עד סוף 2026, ולאחר מכן הגדלת הקיבולת ב־2027. הדור השני נמצא, לדבריה, בפיתוח מתקדם, והעבודה על דור שלישי כבר מתחילה להתגבש. 4
6
סגן נשיא החומרה של OpenAI, ריצ'רד הו, אמר כי הביקוש הפנימי גבוה מכדי שהחברה תוכל לדמיין מכירות ללקוחות חיצוניים. 6
לכן Jalapeño הוא בשלב זה בעיקר דרך להוסיף קיבולת ולשלוט טוב יותר בעלויות ההסקה — לא ניסיון להחליף את Nvidia או את AMD. OpenAI מדגישה שהיא תמשיך לפרוס מאיצים של Nvidia ושל שותפות אחרות, במיוחד משום שהשבב החדש אינו מטפל באימון מודלים. 4
6
חלק ממרוץ רחב יותר לשבבים פנימיים
המהלך מציב את OpenAI לצד חברות טכנולוגיה שמפתחות חומרה ייעודית משלהן. Google מחזיקה במעבדי TPU לאימון ולהסקה, Amazon ו־Microsoft מפתחות שבבי AI פנימיים, ו־Anthropic אמרה שהיא בונה פעילות לתכנון שבבים בתוך החברה. 6
היתרון הנוכחי של Jalapeño, אם כן, הוא טענה ממוקדת: ביצועים טובים יותר להרצת מודלי שפה בתצורות המבחן שנחשפו. הוא עדיין אינו הוכחה לכך ששבב יחיד יחליף את המאיצים הכלליים בכל שלבי מחזור החיים של AI — מאימון המודל ועד הפעלת סוכנים מורכבים בסביבת ייצור.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "השבב המותאם של OpenAI טוען ליתרון על מערכות Nvidia — אבל רק במבחן מסוים"?
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל וואט ופי 1.7–3.6 פחות השהיה מקצה לקצה לעומת מערכות Nvidia שנבדקו.
What are the key points to validate first?
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל וואט ופי 1.7–3.6 פחות השהיה מקצה לקצה לעומת מערכות Nvidia שנבדקו. ב־GPT‑OSS 120B מול GB200 נמדדו, לפי OpenAI, 1,459 טוקנים לשנייה למשתמש לעומת 535 — וכן השהיה של 1.03 שניות לעומת 1.80 שניות.
What should I do next in practice?
ב־DeepSeek R1 מול GB300 דיווחה החברה על כ־700 טוקנים לשנייה למשתמש לעומת 169, ועל השהיה של 1.65 שניות לעומת 5.99 שניות.
Sources
theverge.comOpenAI says its Jalapeño chip can power faster AI responses than the competition
rits.shanghai.nyu.eduOpenAI and Broadcom Unveil Jalapeño, a Custom LLM Inference ...
axios.comOpenAI says its Jalapeño chip bests Nvidia, others