AnswersPublished15 sources
OpenAI väittää uuden Jalapeño-sirunsa olevan Nvidiaa nopeampi ja energiatehokkaampi
OpenAI:n mukaan Jalapeño tuotti testatuissa päättelytehtävissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohden kuin vertailussa olleet Nvidia järjestelmät. Kokonaisviive oli yhtiön mittausten mukaan 1,7–3,6 kertaa pienempi GPT‑OSS 120B , DeepSeek R1 ja Kimi K2.5 malleilla.
JulkaisijaKuvat luotu mallilla GPT Image 1.5
Research answer
Key takeaways
- OpenAI:n mukaan Jalapeño tuotti testatuissa päättelytehtävissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohden kuin vertailussa olleet Nvidia järjestelmät.
- Kokonaisviive oli yhtiön mittausten mukaan 1,7–3,6 kertaa pienempi GPT‑OSS 120B , DeepSeek R1 ja Kimi K2.5 malleilla.
- DeepSeek R1 testissä Jalapeño saavutti noin 700 tokenia sekunnissa käyttäjää kohden, kun GB300 järjestelmän vastaava tulos oli 169 tokenia sekunnissa käyttäjää kohden.
- Kyseessä on päättelyyn, ei tekoälymallien kouluttamiseen, suunniteltu erikoiskiihdytin.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed.. Topic tags: general web, openai, llm, agents, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
OpenAI:n mukaan sen Broadcomin kanssa kehittämä Jalapeño on ensimmäinen yhtiön omaan suunnitteluun perustuva tekoälykiihdytin. Ensimmäisten vertailujen perusteella se päihitti testatuissa suurten kielimallien päättelytehtävissä Nvidia GB200- ja GB300-järjestelmät sekä energiatehokkuudessa että vastausnopeudessa. Tulokset ovat kuitenkin OpenAI:n raportoimia varhaisia mittauksia, eivät riippumaton ja kaikenkattava vertailu tuotantokäytön tekoälykuormista. 4
7
Mitä testeissä mitattiin?
OpenAI käytti SemiAnalysisin julkista InferenceX-vertailua. Testit jäljittelivät yhden vuorovaikutuskerran kuormaa, jossa syötteen pituus oli nimellisesti 8 000 tokenia ja tuotoksen 1 000 tokenia. Mittauksissa tarkasteltiin koko pyynnön käsittelyä, ei vain yksittäisen sirun laskentatehoa. Järjestelmät asetettiin vastaavalle käyttäjäkokemuksen tasolle, ja tulokset suhteutettiin julkaistuihin teholukuihin. 4
7
Kolmella mallilla OpenAI raportoi seuraavat erot:
GPT‑OSS 120B verrattuna GB200-järjestelmään: Jalapeño saavutti 1,9-kertaisen huipputason sekamuotoisen suorituskyvyn kilowattia kohden: 85 448 verrattuna 44 960:een. Kokonaisviive oli 1,03 sekuntia, kun GB200:lla se oli 1,80 sekuntia. Tokenien välinen vähimmäisaika oli 0,69 millisekuntia eli 1 459 tokenia sekunnissa käyttäjää kohden, kun GB200 ylsi 535 tokeniin sekunnissa käyttäjää kohden.
4
DeepSeek R1 MXFP4 verrattuna GB300-järjestelmään: Jalapeño saavutti 1,7-kertaisen suorituskyvyn kilowattia kohden, 19 641 verrattuna 11 781:een. Kokonaisviive oli 1,65 sekuntia, kun GB300:lla se oli 5,99 sekuntia. Tokenien välinen vähimmäisaika oli 1,43 millisekuntia, mikä vastasi noin 700 tokenia sekunnissa käyttäjää kohden. GB300:n vastaava tulos oli 169 tokenia sekunnissa käyttäjää kohden.
Kimi K2.5 MXFP4 verrattuna GB300-järjestelmään: OpenAI ilmoitti 1,5-kertaisesta suorituskyvystä kilowattia kohden ja 3,4 kertaa pienemmästä kokonaisviiveestä. Tokeninopeus oli vähimmäisajan perusteella noin 694 tokenia sekunnissa käyttäjää kohden, kun GB300:n tulos oli 182.
Kaikkien kolmen mallin kohdalla OpenAI ilmoitti 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohden ja 1,7–3,6 kertaa pienemmän kokonaisviiveen kuin vertailujärjestelmillä. 4
Mikä Jalapeñossa on erilaista?
Jalapeñoa ei ole rakennettu yleiskäyttöiseksi grafiikkasuorittimeksi, jota olisi myöhemmin sovitettu päättelyyn. Se on alusta lähtien suunniteltu suurten kielimallien päättelyä varten. OpenAI vastasi kiihdyttimen suunnittelusta, Broadcom piirin toteutuksesta ja verkkoyhteyksistä, ja Celestica levy-, räkkija järjestelmätason integraatiosta. 1
Järjestelmä pyrkii pitämään mallin tilan, kuten KV-välimuistin, paikallisesti suuressa yhteen kytketyssä verkkotopologiassa. Tavoitteena on vähentää sirujen välistä dataliikennettä ja viestinnästä syntyviä odotuksia. 4
Jalapeño ei myöskään jaa niin sanottuja prefill- ja decode-vaiheita erillisiin resurssijoukkoihin. Sama laskenta-, muisti- ja verkkokapasiteetti palvelee molempia vaiheita. Prefill käsittelee käyttäjän syötettä ja on yleensä laskentapainotteista, kun taas decode tuottaa vastauksen tokeni kerrallaan ja kuormittaa erityisesti muistiväylää. 4
Julkisesti saatavilla olevat tiedot sirun tarkoista järjestelmätiedoista ovat rajalliset. Eräässä teknisessä raportissa kuvataan 128 sirun järjestelmä, jonka laskentateho on noin 1,7 eksaflopsia ja HBM-muistia noin 27 teratavua. OpenAI:n oma vertailujulkaisu ei kuitenkaan sisällä täydellistä luetteloa räkin komponenteista. 4
Siru syntyi nopeasti – ja tekoälyä käytettiin suunnittelussa
OpenAI kertoo edenneensä alkuperäisestä suunnittelusta valmistuksen tape-out-vaiheeseen yhdeksässä kuukaudessa. Tape-out tarkoittaa vaihetta, jossa piirin lopullinen suunnitelma toimitetaan valmistusta varten. Yhtiö pitää aikataulua poikkeuksellisen nopeana suorituskykyiselle erikoispiirille. 1
OpenAI:n mukaan sen omat mallit avustivat suunnittelussa, toteutusvaihtoehtojen tutkimisessa, mittauksissa, verifioinnissa, aritmeettisten piirien optimoinnissa ja ohjelmoinnissa. Yhtiö kertoo myös, että Codex ja GPT‑Astra auttoivat tuomaan kolme alun perin suunnittelematonta avointa mallia hyvälle suorituskykytasolle kahdessa kuukaudessa.
Valituissa GPT‑OSS-mallin attention- ja mixture-of-experts-lohkoissa tekoälyn tuottamat toteutukset olivat OpenAI:n mukaan 1,5–1,8 kertaa nopeampia kuin aiemmat ihmisten kirjoittamat toteutukset. Nämä ovat kuitenkin yksittäisten lohkojen tuloksia, eivät kokonaisia malleja koskevia mittauksia. 4
Miksi tuloksiin kannattaa suhtautua varauksella?
Jalapeño on tarkoitettu päättelyyn, ei mallien kouluttamiseen. OpenAI tarvitsee siis edelleen Nvidian, AMD:n ja muiden valmistajien kiihdyttimiä koulutukseen sekä osaan päättelykapasiteetistaan. 6
Tehon laskentatapa vaikuttaa suoraan wattia kohden ilmoitettuun etuun. OpenAI ilmoittaa Jalapeñon pakettitehoksi 700 wattia, mutta kertoo mitatun jatkuvan tehonkulutuksen olleen näissä kuormissa enintään noin 550 wattia. Vertailussa GB200:n tehoksi mallinnettiin 1 200 wattia ja GB300:n 1 400 wattia. 4
SemiAnalysis kertoo seuranneensa ajoja OpenAI:n laboratoriossa, mutta ei suorittaneensa koko vertailusarjaa itse. Sen mukaan InferenceX:n yhden vuorovaikutuskerran 8 000/1 000 tokenin asetelma ei mittaa esimerkiksi pitkiä konteksteja, monivaiheisia agenttitehtäviä, reititystä, prefix-välimuistia, välimuistin hallintaa tai datan siirtämistä toiseen muistitasoon. Kaikki nämä voivat vaikuttaa tuotantoympäristön todelliseen suorituskykyyn. 4
Vertailu on myös sidottu tiettyyn ajankohtaan. GB200 ja GB300 ovat kaupallisia Blackwell-sukupolven järjestelmiä, joten myöhemmät Nvidian alustat voivat olla Jalapeñolle relevantimpia verrokkeja, kun se laajenee käyttöön. Nvidia raportoi erikseen GB300:n DeepSeek R1 -tuloksia MLPerf Inference -menetelmällä. Kyseessä on erilainen offline-mittaus, joten lukuja ei voi verrata suoraan Jalapeñon interaktiivisiin tokenia käyttäjää kohden -tuloksiin. 2
4
Tuleeko Jalapeño myyntiin?
OpenAI suunnittelee ottavansa Jalapeñoon perustuvia järjestelmiä rajallisesti käyttöön omassa laskentainfrastruktuurissaan vuoden 2026 loppuun mennessä ja kasvattavansa kapasiteettia vuonna 2027. Yhtiön mukaan toisen sukupolven siru on jo pitkälle kehityksessä ja kolmannen sukupolven suunnittelu on alkanut. 4
6
Jalapeñoa ei ole tarkoitus myydä ulkopuolisille. OpenAI:n laitteistosta vastaavan varajohtajan Richard Ho:n mukaan yhtiön oma kysyntä on niin suurta, ettei ulkoista myyntiä tällä hetkellä suunnitella. 6
Kyse ei siis ole Nvidian tai AMD:n välittömästä korvaamisesta. Pikemminkin OpenAI yrittää täydentää niiden tarjontaa omalla, juuri sen käyttämiin kielimalleihin optimoidulla päättelyraudalla. Googlella on jo TPU-piirinsä sekä koulutukseen että päättelyyn, Amazonilla ja Microsoftilla omat tekoälypiirinsä, ja myös Anthropic on kertonut omasta piirisuunnitteluhankkeestaan. Jalapeño vie OpenAI:n samaan vertikaalisen integraation kilpailuun, mutta tämänhetkinen etu rajoittuu julkistettujen testikokoonpanojen kielimallipäättelyyn. 6
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI väittää uuden Jalapeño-sirunsa olevan Nvidiaa nopeampi ja energiatehokkaampi"?
OpenAI:n mukaan Jalapeño tuotti testatuissa päättelytehtävissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohden kuin vertailussa olleet Nvidia järjestelmät.
What are the key points to validate first?
OpenAI:n mukaan Jalapeño tuotti testatuissa päättelytehtävissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohden kuin vertailussa olleet Nvidia järjestelmät. Kokonaisviive oli yhtiön mittausten mukaan 1,7–3,6 kertaa pienempi GPT‑OSS 120B , DeepSeek R1 ja Kimi K2.5 malleilla.
What should I do next in practice?
DeepSeek R1 testissä Jalapeño saavutti noin 700 tokenia sekunnissa käyttäjää kohden, kun GB300 järjestelmän vastaava tulos oli 169 tokenia sekunnissa käyttäjää kohden.
Sources
theverge.comOpenAI says its Jalapeño chip can power faster AI responses than the competition
rits.shanghai.nyu.eduOpenAI and Broadcom Unveil Jalapeño, a Custom LLM Inference ...
axios.comOpenAI says its Jalapeño chip bests Nvidia, others