AnswersPublished19 sources
OpenAI:n Jalapeño-siru haastaa Nvidian tekoälypalvelimet
OpenAI ilmoittaa Jalapeñon tuottaneen InferenceX testeissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohti ja 1,7–3,6 kertaa pienemmän kokonaisviiveen kuin vertailuna käytetyt Nvidian GB200 ja GB300 järjestelmät. DeepSeek R1 mallilla Jalapeño saavutti OpenAI:n mukaan noin 700 tokenia sekunnissa käyttäjää kohti, kun...
JulkaisijaMuokattu mallilla GPT-5.6 LunaKuvat luotu mallilla GPT Image 1.5
Research answer
Key takeaways
- OpenAI ilmoittaa Jalapeñon tuottaneen InferenceX testeissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohti ja 1,7–3,6 kertaa pienemmän kokonaisviiveen kuin vertailuna käytetyt Nvidian GB200 ja GB300 järjestelmät.
- DeepSeek R1 mallilla Jalapeño saavutti OpenAI:n mukaan noin 700 tokenia sekunnissa käyttäjää kohti, kun GB300:n tulos oli 169.
- Jalapeño on suunniteltu pääasiassa päättelyyn eli valmiiden mallien ajamiseen, ei kouluttamiseen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co-developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co-developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed. These are early. Topic tags: general, documentation, general web, education, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text,
OpenAI:n ensimmäinen itse suunniteltu tekoälykiihdytin Jalapeño saavutti yhtiön uusimmissa testeissä huomattavia tuloksia: enemmän tekoälytyötä kulutettua wattia kohti, pienemmän kokonaisviiveen ja poikkeuksellisen korkean vuorovaikutteisen token-nopeuden kuin vertailukohtina käytetyt Nvidian GB200- ja GB300-järjestelmät. OpenAI kertoo etujen näkyneen GPT‑OSS 120B-, DeepSeek R1- ja Kimi K2.5 1T -malleilla. 3
4
Tärkeä varaus on kuitenkin paikallaan. Kyse on varhaisista, OpenAI:n itse raportoimista tuloksista tietyssä InferenceX-testikokoonpanossa – ei riippumattomasta ja kaikenkattavasta vertailusta kaikkiin tuotantokäytön tekoälykuormiin tai Nvidian nykyisiin ja tuleviin alustoihin. 4
7
Mitä vertailutestit osoittivat?
Kolmen testatun mallin joukossa OpenAI ilmoitti Jalapeñon tuottaneen 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohti huippuläpäisykyvyllä ja saavuttaneen 1,7–3,6 kertaa pienemmän päästä päähän -viiveen kuin vertailujärjestelmät. Erittäin vuorovaikutteisissa kuormissa suorituskykyetu oli OpenAI:n mukaan 2,1–4,1-kertainen. 3
Mallikohtaiset tulokset olivat seuraavat:
GPT‑OSS 120B verrattuna Nvidia GB200:aan: Jalapeño saavutti ilmoitetusti 85 448 huippuluokan sekalaista läpäisykykyä wattikilowattia kohti, kun GB200:n tulos oli 44 960. Kokonaisviive oli Jalapeñolla 1,03 sekuntia ja GB200:lla 1,80 sekuntia. Tokenien väliseksi vähimmäisajaksi mitattiin 0,69 millisekuntia, mikä vastaa noin 1 459 tokenia sekunnissa käyttäjää kohti. GB200:n vastaava luku oli 535.
4
DeepSeek R1 MXFP4 verrattuna Nvidia GB300:aan: Jalapeño saavutti ilmoitetusti 19 641 huippuluokan sekalaista läpäisykykyä wattikilowattia kohti, kun GB300:n tulos oli 11 781. Kokonaisviive oli 1,65 sekuntia verrattuna GB300:n 5,99 sekuntiin. Tokenien välisen vähimmäisajan perusteella Jalapeño ylsi noin 700 tokeniin sekunnissa käyttäjää kohti, kun GB300:n tulos oli 169.
6
Kimi K2.5 MXFP4 verrattuna Nvidia GB300:aan: OpenAI raportoi 1,5 kertaa suuremman huippuläpäisykyvyn wattia kohti, 3,4 kertaa pienemmän kokonaisviiveen ja noin 694 tokenia sekunnissa käyttäjää kohti. GB300:n vastaava luku oli 182.
”Tokenia sekunnissa käyttäjää kohti” kuvaa ennen kaikkea yksittäisen pyynnön koettua nopeutta. Se ei mittaa vain sitä, kuinka monta tokenia kokonainen palvelinräkki pystyy tuottamaan samanaikaisesti suurella rinnakkaiskuormalla. Ero on tärkeä esimerkiksi keskusteluissa, ohjelmoinnissa ja tekoälyagenteissa, joissa vastausten nopea ilmestyminen vaikuttaa suoraan käyttökokemukseen.
Miksi erikoistunut siru voi olla nopeampi?
Jalapeño on suunniteltu suurten kielimallien päättelyyn eli koulutettujen mallien käyttämiseen. Se ei ole yleiskäyttöinen grafiikkasuoritin, jota on mukautettu sekä koulutukseen että päättelyyn. OpenAI vastasi arkkitehtuurista, Broadcom piisuunnittelusta ja verkkoratkaisuista, ja Celestica piirilevyjen, räkkien ja järjestelmäintegraation toteutuksesta. 17
32
Räkkitason suunnittelussa hyödynnetään laajaa yhteenkytkettyä verkkoaluetta, jonka tarkoitus on pitää työkuorma saman järjestelmän sisällä. OpenAI kertoo sijoittavansa ja säilyttävänsä mallin tilan, kuten KV-välimuistin, mahdollisuuksien mukaan paikallisesti. Näin sirujen välistä tiedonsiirtoa ja tekstin generointia hidastavia viestintäkatkoja voidaan vähentää. 4
6
Järjestelmä ei myöskään jaa esitäyttöä ja purkua erillisiin, ennalta määrättyihin resurssialtaisiin. OpenAI kuvaa laskenta-, muisti- ja verkkoresursseja joustavasti jaettaviksi molempien päättelyvaiheiden kesken. Esitäyttö käsittelee käyttäjän syötteen ja on yleensä laskentapainotteista, kun taas purku tuottaa vastauksen token kerrallaan ja on usein riippuvaisempi muistin siirrosta ja kaistanleveydestä. 4
6
Julkiset tekniset tiedot ovat edelleen puutteellisia. Erään teknisen kuvauksen mukaan 128 sirun järjestelmässä on noin 1,7 eksaflopsin laskentateho ja 27 teratavua HBM-muistia. OpenAI:n benchmark-julkaisu ei kuitenkaan sisällä täydellistä räkin osaluetteloa tai riittävästi tietoja kaikkien tulosten riippumattomaan toistamiseen. 4
Tekoäly auttoi myös sirun suunnittelussa
OpenAI kertoo vieneensä Jalapeñon alkuperäisestä suunnittelusta valmistuksen niin sanottuun tape-out-vaiheeseen vain yhdeksässä kuukaudessa. Kyse on edistyneen erikoiskiihdyttimen kehityksessä poikkeuksellisen tiiviistä aikataulusta. 17
21
Yhtiön mukaan sen tekoälymallit osallistuivat suunnitteluvaihtoehtojen tutkimiseen, toteutukseen, mittaamiseen, verifiointiin, aritmeettisten piirien optimointiin ja ohjelmointiin. OpenAI kertoo Codexin ja GPT‑Astran auttaneen nostamaan kolme alun perin suunnittelematonta avoimesti saatavilla olevaa mallia korkealle suorituskykytasolle kahdessa kuukaudessa.
Valituissa GPT‑OSS-mallin huomiolohkoissa ja mixture-of-experts-lohkoissa tekoälyn tuottamat toteutukset olivat yhtiön mukaan 1,5–1,8 kertaa nopeampia kuin aiemmat ihmisten kirjoittamat toteutukset. Luvut koskevat yksittäisiä lohkoja, eivät kokonaisia mallipalvelun tuloksia. 4
Vertailun rajat on syytä pitää mielessä
Jalapeñon näyttävä etu on luettava testin asiayhteydessä.
Kyse on päättelykiihdyttimestä, ei koulutukseen tarkoitetusta näytönohjaimesta
Jalapeño on tarkoitettu valmiiden mallien palvelemiseen. Sitä ei ole suunniteltu mallien kouluttamiseen, joten OpenAI odottaa käyttävänsä edelleen Nvidian, AMD:n ja muiden valmistajien kiihdyttimiä koulutuksessa sekä osassa päättelykapasiteettiaan. 4
6
Jalapeño on näin ollen OpenAI:n infrastruktuurin erikoistunut lisä, ei kaikkien yhtiön työkuormien kattava korvaaja grafiikkasuoritinjärjestelmille.
Testi kuvasi rajattua palveluprofiilia
Vertailussa käytettiin SemiAnalysisin julkista InferenceX-vertailua. Sen nimellinen yhden vuoron pyyntö sisälsi 8 000 tokenin syötteen ja 1 000 tokenin tulosteen. Mittaus kattoi koko pyynnön palvelemisen, järjestelmät pyrittiin sovittamaan käyttökokemuksen osalta keskenään ja tulokset normalisoitiin julkaistujen sirujen teholukujen perusteella. 4
7
SemiAnalysis kertoo seuranneensa ajoja OpenAI:n laboratoriossa, mutta ei suorittaneensa koko vertailusarjaa itse. Se huomautti myös, ettei asetelma testaa pidempää kontekstia tai monen vuoron agenttikuormia, reititystä, etuliitteen välimuistia, välimuistin hallintaa tai kuormien siirtämistä muualle. Tällaiset ohjelmisto- ja palveluratkaisut voivat muuttaa tuotantokäytön suorituskykyä merkittävästi. 6
Tehon laskentatapa vaikuttaa wattikohtaiseen tulokseen
OpenAI ilmoittaa Jalapeñon pakettitehoksi 700 wattia ja kertoo mitatun jatkuvan tehon olleen testatuilla kuormilla enintään 550 wattia. Vertailussa GB200:n mallinnettu teho oli 1 200 wattia ja GB300:n 1 400 wattia. Siksi wattikohtainen etu riippuu osittain työkuormasta, mittauspisteestä ja siitä, miten kokonaisteho lasketaan. 4
Nvidia-vertailu on sidottu ajankohtaan
Testit vertasivat Jalapeñoa parhaisiin tuolloin saatavilla olleisiin GB200- ja GB300-tuloksiin. Jalapeñon laajamittaisen käyttöönoton aikaan uudemmat Nvidian järjestelmät voivat kuitenkin olla olennaisempia vertailukohtia. Nvidia raportoi lisäksi GB300:n DeepSeek R1 -tuloksia MLPerf-vertailun erilaisella offline-menetelmällä. Näitä lukuja ei pidä verrata suoraan Jalapeñon interaktiivisiin tokenia käyttäjää kohti -tuloksiin. 1
2
4
Käyttöönotto ja kilpailuasetelma
OpenAI suunnittelee Jalapeñon rajattua käyttöönottoa omassa laskentainfrastruktuurissaan vuoden 2026 loppuun mennessä. Kapasiteetin on määrä kasvaa vuonna 2027. Yhtiön mukaan toisen sukupolven siru on jo pitkällä kehityksessä ja kolmannen sukupolven työ on alkamassa. 4
6
Toistaiseksi Jalapeño on sisäinen alusta, jota ulkopuoliset yritykset eivät voi ostaa tai vuokrata. OpenAI:n laitteistosta vastaava Richard Ho sanoi, että sisäinen kysyntä on liian suurta ulkoisen myynnin suunnittelemiseksi. 6
Strategia täydentää Nvidian ja AMD:n ratkaisuja, ei syrjäytä niitä välittömästi. OpenAI tarvitsee edelleen yleiskäyttöisiä kiihdyttimiä mallien kouluttamiseen, joten sen tuleva infrastruktuuri jää todennäköisesti monenlaisten ratkaisujen yhdistelmäksi.
OpenAI ei ole tässä kehityksessä yksin. Google valmistaa TPU-kiihdyttimiä sekä koulutukseen että päättelyyn, Amazon ja Microsoft kehittävät omia tekoälysirujaan, ja Anthropic on kertonut omasta piisuunnitteluhankkeestaan. 6
Mitä tuloksista kannattaa päätellä?
Jalapeñon varhaiset tulokset viittaavat siihen, että tiettyyn työkuormaan suunniteltu kiihdytin voi päihittää yleiskäyttöiset järjestelmät niissä mittareissa, joilla interaktiivista kielimallipalvelua käytännössä arvioidaan: energiatehokkuudessa, kokonaisvasteajassa ja käyttäjälle toimitettujen tokenien nopeudessa.
Todisteet eivät kuitenkaan vielä tue väitettä, että ”OpenAI on päihittänyt Nvidian” yleisesti. Raportoitu etu koskee valittuja malleja, tiettyä InferenceX-työkuormaa ja vertailua GB200- ja GB300-kokoonpanoihin. Avoimeksi jää, miten Jalapeño suoriutuu laajemmasta tuotantoliikenteestä, pitkän kontekstin agenteista, erilaisista ohjelmistopinoista, koulutusta lähellä olevista työkuormista ja niistä Nvidian järjestelmistä, jotka ovat saatavilla OpenAI:n käyttöönoton laajentuessa.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI:n Jalapeño-siru haastaa Nvidian tekoälypalvelimet"?
OpenAI ilmoittaa Jalapeñon tuottaneen InferenceX testeissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohti ja 1,7–3,6 kertaa pienemmän kokonaisviiveen kuin vertailuna käytetyt Nvidian GB200 ja GB300 järjestelmät.
What are the key points to validate first?
OpenAI ilmoittaa Jalapeñon tuottaneen InferenceX testeissä 1,5–1,9 kertaa enemmän tekoälytyötä wattia kohti ja 1,7–3,6 kertaa pienemmän kokonaisviiveen kuin vertailuna käytetyt Nvidian GB200 ja GB300 järjestelmät. DeepSeek R1 mallilla Jalapeño saavutti OpenAI:n mukaan noin 700 tokenia sekunnissa käyttäjää kohti, kun GB300:n tulos oli 169.
What should I do next in practice?
Jalapeño on suunniteltu pääasiassa päättelyyn eli valmiiden mallien ajamiseen, ei kouluttamiseen.
Sources
openai.comJalapeño’s first results show industry-leading speed and efficiency in AI inference
techcrunch.comOpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show | TechCrunch