AnswersPublished19 sources
השבב Jalapeño של OpenAI טוען לביצועים מהירים ויעילים יותר מ־Nvidia GB200 ו־GB300
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל ואט, וזמן השהיה נמוך פי 1.7–3.6 לעומת מערכות Nvidia שנבדקו. בבדיקת DeepSeek R1 דיווחה החברה על כ־700 טוקנים לשנייה למשתמש ב־Jalapeño, לעומת 169 ב־GB300.
פורסם על ידינערך באמצעות GPT-5.6 Lunaהתמונות נוצרו באמצעות GPT Image 1.5
Research answer
Key takeaways
- OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל ואט, וזמן השהיה נמוך פי 1.7–3.6 לעומת מערכות Nvidia שנבדקו.
- בבדיקת DeepSeek R1 דיווחה החברה על כ־700 טוקנים לשנייה למשתמש ב־Jalapeño, לעומת 169 ב־GB300.
- השבב מיועד להרצת מודלים ולא לאימון שלהם. OpenAI מתכננת פריסה פנימית מוגבלת עד סוף 2026, ולא מכירה חיצונית בשלב זה.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co-developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co-developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed. These are early. Topic tags: general, documentation, general web, education, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text,
השבב המותאם אישית הראשון של OpenAI, בשם Jalapeño, הציג לטענת החברה תוצאות מרשימות במבחני ההרצה האחרונים שלה: יותר עבודה של בינה מלאכותית לכל יחידת חשמל, זמן תגובה כולל קצר יותר וקצב אינטראקטיבי גבוה במיוחד. ההשוואה נערכה מול מערכות Nvidia GB200 ו־GB300, בשלושה מודלים: GPT‑OSS 120B, DeepSeek R1 ו־Kimi K2.5 1T. 3
4
עם זאת, חשוב לסייג את הכותרת: מדובר בתוצאות ראשוניות שעליהן דיווחה OpenAI, במסגרת תצורה מוגדרת של מבחן InferenceX. אין כאן עדיין השוואה עצמאית ואוניברסלית לכל עומסי העבודה בייצור, או לכל הדורות הנוכחיים והעתידיים של Nvidia. 4
7
מה הראה Jalapeño במבחנים
בשלושת המודלים שנבדקו, OpenAI דיווחה על פי 1.5–1.9 יותר עבודה של AI לכל ואט בתפוקת שיא, ועל זמן השהיה כולל נמוך פי 1.7–3.6 לעומת מערכות ההשוואה. בעומסי עבודה אינטראקטיביים במיוחד דיווחה החברה על שיפור של פי 2.1–4.1 בביצועים. 3
אלה התוצאות הבולטות לפי מודל:
GPT‑OSS 120B מול Nvidia GB200: Jalapeño הגיע, לפי הדיווח, ל־85,448 יחידות תפוקה מעורבת בשיא לכל קילוואט, לעומת 44,960 ב־GB200. זמן ההשהיה הכולל עמד על 1.03 שניות, לעומת 1.80 שניות. בזמן המינימלי בין טוקנים נמדדו 0.69 אלפיות השנייה — קצב של כ־1,459 טוקנים לשנייה למשתמש, לעומת 535 ב־GB200.
4
DeepSeek R1 MXFP4 מול Nvidia GB300: Jalapeño סיפק, לפי OpenAI, 19,641 יחידות תפוקה מעורבת בשיא לכל קילוואט, לעומת 11,781 ב־GB300. זמן ההשהיה הכולל היה 1.65 שניות, לעומת 5.99 שניות. בזמן המינימלי בין טוקנים דיווחה OpenAI על כ־700 טוקנים לשנייה למשתמש, לעומת 169 ב־GB300.
6
Kimi K2.5 MXFP4 מול Nvidia GB300: החברה דיווחה על פי 1.5 תפוקת שיא גבוהה יותר לכל קילוואט, על זמן השהיה כולל נמוך פי 3.4, ועל כ־694 טוקנים לשנייה למשתמש, לעומת 182 ב־GB300.
המדד "טוקנים לשנייה למשתמש" מתייחס לרמת האינטראקטיביות: הוא מודד באיזו מהירות בקשה אישית מקבלת טקונים שנוצרו, ולא רק כמה טוקנים מסוגל ארון שלם להפיק תחת עומס מקבילי כבד. ההבדל חשוב בשירותי צ'אט, כתיבת קוד וסוכני AI, שבהם תחושת המהירות היא חלק מהחוויה שהמוצר מספק.
מדוע שבב ייעודי עשוי להיות מהיר יותר
Jalapeño הוא מאיץ שנבנה במיוחד להרצת מודלי שפה גדולים, ולא מעבד גרפי רב־תכליתי שהותאם בדיעבד גם להרצה. OpenAI תכננה את הארכיטקטורה, Broadcom טיפלה במימוש הסיליקון וברשתות, ו־Celestica תרמה לתכנון הלוחות, הארונות ולאינטגרציה של המערכת. 17
32
התכנון ברמת הארון מבוסס על תחום רשת מחובר וגדול, שנועד להשאיר את עומס העבודה בתוך מערכת אחת. OpenAI אומרת שהמערכת ממקמת ושומרת את מצב המודל — כולל מטמון KV, שמכיל מידע ביניים הנדרש להמשך יצירת התשובה — באופן מקומי ככל האפשר. כך ניתן לצמצם את העברת הנתונים בין שבבים ואת ההמתנות הנגרמות מתקשורת ביניהם. 4
6
בנוסף, המערכת אינה מחלקת את משאבי החומרה למאגרים נפרדים וקבועים עבור שלבי prefill ו־decode. במקום זאת, OpenAI מתארת את משאבי החישוב, הזיכרון והרשת כגמישים וזמינים לשני השלבים. שלב ה־prefill מעבד את ההנחיה והוא אינטנסיבי יחסית מבחינה חישובית; שלב ה־decode מייצר את התשובה טוקן אחר טוקן, ולעיתים מוגבל יותר בגלל תעבורת הזיכרון ורוחב הפס. 4
6
הפרטים הטכניים הפומביים עדיין חלקיים. תיאור טכני אחד מדבר על מערכת הכוללת 128 שבבים, כ־1.7 אקסה־פלופס וכ־27 טרה־בייט של זיכרון HBM. עם זאת, הודעת המבחנים של OpenAI אינה כוללת רשימת רכיבים מלאה של הארון או די מידע המאפשר לשחזר באופן עצמאי כל תוצאה. 4
OpenAI: הבינה המלאכותית סייעה גם בתכנון השבב
OpenAI אומרת שהשבב עבר מתכנון ראשוני ל־tape-out — העברת התכנון הסופי לייצור — בתוך תשעה חודשים, פרק זמן קצר במיוחד עבור מאיץ מותאם אישית מתקדם. 17
21
לדברי החברה, המודלים שלה סייעו בחקר חלופות תכנון, במימוש, במדידה, באימות, באופטימיזציה של מעגלים אריתמטיים ובתכנות. OpenAI דיווחה כי Codex בשילוב GPT‑Astra סייעו להביא שלושה מודלים פתוחים שלא תוכננו מראש לביצועים גבוהים בתוך חודשיים. בבלוקים נבחרים של מנגנון הקשב ושל ארכיטקטורת mixture-of-experts ב־GPT‑OSS, אמרה החברה, המימושים שנוצרו בעזרת AI היו מהירים פי 1.5–1.8 מהמימושים הקיימים שנכתבו בידי בני אדם. הנתונים האלה מתייחסים לבלוקים מסוימים, ולא לתוצאות מלאות של הרצת מודל שלם. 4
המגבלות שחשוב להכיר
היתרון שמופיע בכותרות צריך להיקרא בהקשר הנכון.
זהו מאיץ להרצה, לא מעבד גרפי לאימון
Jalapeño מיועד ל־inference — הפעלת מודלים שכבר אומנו — ולא לאימון מודלים. לכן OpenAI צפויה להמשיך להשתמש במאיצים של Nvidia, AMD וספקים אחרים לצורכי אימון, וגם בחלק מיכולות ההרצה שלה. 4
6
במילים אחרות, Jalapeño הוא תוספת ייעודית לתשתית של OpenAI, ולא תחליף מלא למערכות GPU המשמשות את החברה במגוון עומסי עבודה.
המבחן בחן תרחיש שירות מוגבל
ההשוואה התבססה על InferenceX, מבחן ציבורי של SemiAnalysis, עם בקשות נומינליות חד־פעמיות הכוללות קלט של 8,000 טוקנים ופלט של 1,000 טוקנים. המבחן מדד את הטיפול בבקשה מתחילתה ועד סופה, השווה בין המערכות לפי חוויית משתמש מקבילה, ונרמל את התוצאות באמצעות נתוני צריכת החשמל שפורסמו עבור השבבים. 4
7
SemiAnalysis מסרה כי הייתה עדה להרצות במעבדה של OpenAI, אך לא ביצעה בעצמה את סדרת המבחנים המלאה. היא גם הזהירה שהתצורה אינה בוחנת הקשרים ארוכים יותר, סוכנים רב־סבביים, ניתוב, מטמון prefix, ניהול מטמון או העברת נתונים לאחסון חיצוני. לבחירות התוכנה וההגשה האלה עשויה להיות השפעה מהותית על הביצועים בסביבת ייצור. 6
אופן חישוב צריכת החשמל משפיע על התוצאה
OpenAI מציינת הספק חבילה של 700 ואט עבור Jalapeño, ואומרת שההספק שנמדד לאורך זמן היה 550 ואט או פחות בעומסי העבודה שנבדקו. ההשוואה התבססה על נתונים מחושבים של 1,200 ואט ל־GB200 ושל 1,400 ואט ל־GB300. לכן היתרון המדווח לכל ואט תלוי בחלקו בעומס העבודה, בנקודת המדידה ובשיטת חישוב ההספק. 4
ההשוואה ל־Nvidia מוגבלת בזמן
המבחנים השוו את Jalapeño לתוצאות הטובות ביותר שהיו זמינות באותה עת עבור GB200 או GB300. עם זאת, עד ש־Jalapeño ייפרס בהיקף נרחב, ייתכן שמערכות Nvidia חדשות יותר יהיו נקודת השוואה רלוונטית יותר. Nvidia מפרסמת גם תוצאות של GB300 עבור DeepSeek R1 לפי מתודולוגיית offline שונה של MLPerf. אין להשוות את הנתונים האלה ישירות למדד האינטראקטיבי של טוקנים למשתמש ב־Jalapeño. 1
2
4
פריסה ואסטרטגיה תחרותית
OpenAI מתכננת פריסה מוגבלת של Jalapeño בתשתית המחשוב הפנימית שלה עד סוף 2026, עם הגדלת הקיבולת ב־2027. החברה אומרת שדור שני של השבב כבר נמצא עמוק בתהליך הפיתוח, ודור שלישי מתחיל להתגבש. 4
6
בשלב זה Jalapeño הוא פלטפורמה פנימית, ולא שבב שחברות חיצוניות יכולות לרכוש או לשכור. ריצ'רד הו, מנהל תחום החומרה ב־OpenAI, אמר שהביקוש הפנימי גבוה מדי מכדי שניתן יהיה לתכנן כרגע מכירות לגורמים חיצוניים. 6
לכן האסטרטגיה היא להשלים את Nvidia ואת AMD, ולא להחליף אותן מיד. OpenAI עדיין זקוקה למאיצים כלליים לאימון, והתשתית העתידית שלה צפויה להישאר הטרוגנית. Google מפתחת כבר שבבי TPU לאימון ולהרצה, Amazon ו־Microsoft בנו שבבי AI פנימיים, וגם Anthropic תיארה מאמץ לפיתוח סיליקון מותאם אישית. 6
השורה התחתונה
התוצאות הראשוניות של Jalapeño מצביעות על כך שמאיץ המותאם לעומס עבודה מסוים יכול לעלות על מערכות כלליות במדדים החשובים להרצת מודלי שפה אינטראקטיבית: יעילות אנרגטית, זמן תגובה כולל ומספר הטוקנים שמקבל כל משתמש.
אבל הראיות תומכות במסקנה מצומצמת יותר מהטענה ש־"OpenAI ניצחה את Nvidia". היתרון המדווח חל על מודלים מסוימים, עומס עבודה מסוים של InferenceX ותצורות השוואה של GB200 ו־GB300. עדיין לא ברור כיצד Jalapeño יתמודד עם תעבורה רחבה בסביבת ייצור, סוכנים בעלי הקשר ארוך, מחסני תוכנה שונים, עומסי עבודה הקשורים לאימון ומערכות Nvidia שיהיו זמינות כאשר הפריסה של OpenAI תתרחב.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "השבב Jalapeño של OpenAI טוען לביצועים מהירים ויעילים יותר מ־Nvidia GB200 ו־GB300"?
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל ואט, וזמן השהיה נמוך פי 1.7–3.6 לעומת מערכות Nvidia שנבדקו.
What are the key points to validate first?
OpenAI מדווחת כי Jalapeño סיפק פי 1.5–1.9 יותר עבודה של בינה מלאכותית לכל ואט, וזמן השהיה נמוך פי 1.7–3.6 לעומת מערכות Nvidia שנבדקו. בבדיקת DeepSeek R1 דיווחה החברה על כ־700 טוקנים לשנייה למשתמש ב־Jalapeño, לעומת 169 ב־GB300.
What should I do next in practice?
השבב מיועד להרצת מודלים ולא לאימון שלהם. OpenAI מתכננת פריסה פנימית מוגבלת עד סוף 2026, ולא מכירה חיצונית בשלב זה.
Sources
openai.comJalapeño’s first results show industry-leading speed and efficiency in AI inference
techcrunch.comOpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show | TechCrunch