AnswersPublished24 sources
OpenAI’s Jalapeño-chip verslaat Nvidia Blackwell bij AI-inferentie, met belangrijke kanttekeningen
Volgens OpenAI leverde Jalapeño bij drie geteste taalmodellen 1,5 tot 1,9 keer meer AI werk per watt en een 1,7 tot 3,6 keer lagere end to end latentie dan Nvidia systemen met GB200 en GB300. Jalapeño is een op inferentie gerichte ASIC die samen met Broadcom is ontwikkeld.
Gepubliceerd doorBewerkt met GPT-5.6 LunaAfbeeldingen gegenereerd met GPT Image 1.5
Research answer
Key takeaways
- Volgens OpenAI leverde Jalapeño bij drie geteste taalmodellen 1,5 tot 1,9 keer meer AI werk per watt en een 1,7 tot 3,6 keer lagere end to end latentie dan Nvidia systemen met GB200 en GB300.
- Jalapeño is een op inferentie gerichte ASIC die samen met Broadcom is ontwikkeld.
- De vergelijking is niet volledig gelijkwaardig: Jalapeño gebruikt HBM4 geheugen, terwijl de geteste Blackwell systemen dat niet doen.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What are the reported performance results, power and cost-efficiency benefits, testing details and caveats, deployment timeline, development. Article summary: OpenAI reports that Jalapeño—a Broadcom co-developed, inference-focused ASIC—beats Nvidia’s Blackwell GB200/GB300 systems on the tested LLM-serving workloads for work per watt and latency. It is a meaningful proof point . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
OpenAI heeft met zijn eerste gepubliceerde resultaten voor Jalapeño een gerichte claim gedaan, geen universele overwinning: de zelf ontwikkelde chip presteerde in geselecteerde tests voor het aanbieden van grote taalmodellen beter dan Nvidia’s GB200- en GB300-systemen op het gebied van energie-efficiëntie en responstijd. Dat is relevant in een AI-markt waarin elektriciteit, koeling en stroomvoorziening steeds zwaarder wegen in de kosten van het gebruik van modellen. Maar Jalapeño is ontworpen voor inferentie — het genereren van antwoorden — en niet als algemene vervanger voor Nvidia-GPU’s. Bovendien kent de vergelijking belangrijke beperkingen. 5
7
Waarvoor is Jalapeño bedoeld?
Jalapeño is een application-specific integrated circuit (ASIC): een gespecialiseerde chip die OpenAI samen met Broadcom ontwikkelde voor inferentie met grote taalmodellen. Inferentie is de fase waarin een getraind model antwoorden genereert. Dat verschilt van training, waarbij het model zelf wordt gebouwd en verbeterd. 6
19
Een ASIC levert flexibiliteit in voor efficiëntie op een voorspelbare taak met een hoog volume. Nvidia’s GPU-systemen zijn juist bedoeld voor een veel breder scala aan toepassingen. Jalapeño is afgestemd op de modellen, software en infrastructuur van OpenAI. Die specialisatie is de kern van de gemelde prestatievoorsprong — en tegelijk de reden waarom de chip niet één op één met een algemene GPU moet worden gelijkgesteld. 5
6
Dit zijn de gerapporteerde resultaten
OpenAI testte Jalapeño tegen systemen op basis van Nvidia’s GB200 en GB300 met drie publiek beschikbare modellen: GPT-OSS 120B, DeepSeek R1 670B en Moonshot AI’s Kimi K2.5 1T. Over die vergelijkingen rapporteerde het bedrijf bij maximale doorvoer 1,5 tot 1,9 keer meer AI-werk per watt en een 1,7 tot 3,6 keer lagere end-to-end-latentie. 5
7
13
De afzonderlijke cijfers laten zien hoe groot de verschillen volgens OpenAI waren:
- Bij GPT-OSS 120B kwam Jalapeño uit op 85.448 gemengde tokens per seconde per kilowatt, tegenover 44.960 voor het GB200-systeem. Dat is ongeveer 1,9 keer zoveel werk per watt. De gemelde end-to-end-latentie bedroeg 1,03 seconde tegenover 1,80 seconde.
7
- Bij DeepSeek R1 670B behaalde Jalapeño 19.641 gemengde tokens per seconde per kilowatt, tegenover 11.781 voor GB300 — ongeveer 1,7 keer meer werk per watt. De latentie werd gemeten op 1,65 seconde tegenover 5,99 seconden.
- Bij Kimi K2.5 1T leverde Jalapeño 18.195 gemengde tokens per seconde per kilowatt, tegenover 11.862 voor GB300. Dat komt neer op ongeveer 1,5 keer meer werk per watt.
Bij zeer interactieve werklasten, waarbij snelle reacties belangrijker zijn dan maximale totale doorvoer, meldde OpenAI een nog grotere voorsprong: 2,1 tot 4,1 keer hogere prestaties. 4
13
Ook het energieverbruik verklaart waarom een gespecialiseerde chip aantrekkelijk kan zijn. Jalapeño heeft een opgegeven vermogen van 700 watt. De vergeleken GB200- en GB300-accelerators zijn opgegeven voor respectievelijk 1.200 en 1.400 watt. Volgens OpenAI bleef het gemeten aanhoudende verbruik van Jalapeño tijdens de tests op of onder 550 watt. 6
12
13
Een lager chipvermogen betekent niet automatisch dat een datacenter in dezelfde verhouding goedkoper wordt. Toch kan meer modelwerk met minder stroom de druk op elektriciteit, koeling en stroomdistributie verlagen. Op de schaal waarop OpenAI AI-diensten wil aanbieden, vormt dat de belangrijkste economische reden om eigen inferentiehardware te ontwikkelen. 5
Hoe overtuigend is de vergelijking?
De tests maakten gebruik van de openbare InferenceX-benchmark van SemiAnalysis. Daarbij werd end-to-end-serving gemeten voor meerdere modellen en gebruikspunten, in plaats van alleen een theoretische chipspecificatie. Dat maakt de uitkomsten relevanter voor de praktijk van AI-inferentie. 7
De resultaten blijven echter door OpenAI gerapporteerde cijfers. Ze zijn niet onafhankelijk gerepliceerd in een volledig leveranciersneutrale test. 4
5
Daarnaast is er een belangrijk verschil in hardwaregeneratie: Jalapeño gebruikt HBM4-geheugen, terwijl de geteste GB200- en GB300-systemen dat niet doen. SemiAnalysis omschreef de vergelijking daarom als onvolledig en niet helemaal eerlijk. 5
Dat verschil doet ertoe. Geheugencapaciteit en geheugenbandbreedte zijn cruciaal bij het aanbieden van grote modellen. Nvidia’s Rubin-platform gebruikt eveneens HBM4 en kan daardoor een relevantere vergelijking van dezelfde generatie zijn dan Blackwell-systemen zonder die geheugentechnologie. De voorsprong van Jalapeño op GB200 en GB300 bewijst dus niet dat de chip ook sneller of efficiënter zal zijn dan Rubin. 5
17
De aard van de chips vormt nog een tweede beperking. Nvidia-GPU’s kunnen worden gebruikt voor training, finetuning, inferentie en veranderende modelarchitecturen. Een ASIC komt vooral tot zijn recht wanneer de doelbelasting stabiel genoeg is om de specialisatie te rechtvaardigen. 5
20
Wanneer wordt Jalapeño ingezet?
OpenAI wil Jalapeño tegen het einde van 2026 in zeer kleine volumes inzetten in zijn eigen rekeninfrastructuur. Een aanzienlijk grotere uitrol staat gepland voor 2027. 11
33
Het project is opgezet als een platform voor meerdere generaties. OpenAI zegt dat chips van de tweede en derde generatie al in ontwikkeling zijn. Broadcom spreekt over een routekaart voor datacenters op gigawatt-schaal met Microsoft en andere partners. 3
11
30
De bredere strategie is verticale co-design: modellen, inferentiesoftware, geheugen, netwerkapparatuur, systemen en chips gezamenlijk ontwerpen. Dat kan OpenAI meer controle geven over responstijden en de kosten per antwoord. Het nadeel is dat de hardware minder breed inzetbaar wordt dan een algemene GPU. 3
6
33
De korte ontwikkeltijd is opvallend, maar een snelle tape-out — het moment waarop een chipontwerp naar de fabriek gaat — staat niet gelijk aan bewezen productie op grote schaal. Productierendement, systeemintegratie, softwarevolwassenheid, toelevering en ondersteuning van toekomstige modellen zullen bepalen of de benchmarkvoorsprong uitgroeit tot een blijvend infrastructuurvoordeel. De beschikbare berichtgeving bevestigt de geplande uitrol, maar nog niet de uiteindelijke productieschaal. 30
33
Waarom Nvidia niet direct wordt vervangen
OpenAI heeft gezegd dat het Nvidia blijft gebruiken voor training en als rekenpartner. 4
11
Dat is logisch. Het trainen van geavanceerde modellen vereist flexibele systemen die nieuwe architecturen, algoritmen en experimenten aankunnen. Nvidia profiteert bovendien van het CUDA-software-ecosysteem en een compleet aanbod van netwerk- en datacentersystemen. 5
Nvidia-topman Jensen Huang kan de dreiging van gespecialiseerde chips daarom relativeren vanuit het perspectief van het totale platform: een Nvidia-GPU doet niet alleen inferentie, maar kan ook modellen trainen, finetunen en draaien wanneer modellen en software veranderen. Voor klanten met uiteenlopende workloads is die flexibiliteit vaak belangrijker dan een overwinning op één inferentiebenchmark. 5
Jalapeño moet dan ook worden gezien als een gerichte vervangingsstrategie. OpenAI kan de chip inzetten voor terugkerende, voorspelbare inferentietaken waarvoor het zelf de modellen, software en infrastructuur beheert. Nvidia blijft relevant voor training, onderzoek, modeliteratie en toepassingen waarbij flexibiliteit zwaarder weegt dan specialisatie. 4
5
Wat betekent dit voor Nvidia en de AI-chipmarkt?
Analisten zien Jalapeño als bewijs dat een door een hyperscaler ontworpen ASIC bij geselecteerde inferentietaken kan concurreren met — en volgens OpenAI beter kan presteren dan — Blackwell-systemen. Dat kan Nvidia onder druk zetten in inferentie, zeker nu grote AI-aanbieders hun kosten willen verlagen en minder afhankelijk willen worden van één leverancier. 17
32
OpenAI is bovendien niet het enige technologiebedrijf dat eigen silicium ontwikkelt. Ook Google, AWS en Meta werken aan eigen AI-chips. Dat onderstreept de verschuiving naar infrastructuur die steeds specifieker op een bepaalde taak wordt afgestemd. 5
De waarschijnlijkste uitkomst is geen plotselinge instorting van de GPU-markt, maar een verdere opsplitsing:
- Aangepaste ASICs kunnen aantrekkelijk worden voor stabiele inferentietaken met grote volumes, vooral wanneer een platformaanbieder de volledige software- en hardwareketen beheert.
- Nvidia-GPU’s blijven waarschijnlijk sterk bij training, snelle modelontwikkeling, wisselende workloads en ecosystemen waarin brede softwareondersteuning belangrijk is.
5
20
- Bedrijven met eigen chips kunnen hun onderhandelingspositie verbeteren doordat zij voorspelbare inferentievraag zelf afvangen en minder GPU’s hoeven in te kopen.
De doorslaggevende vraag is of de gemelde voordelen overeind blijven bij eerlijkere vergelijkingen, nieuwe modellen en productie op grote schaal. Voorlopig ondersteunt het bewijs een beperktere conclusie: OpenAI heeft laten zien dat gespecialiseerde chips bij bepaalde inferentietaken zeer competitief kunnen zijn tegenover Nvidia’s Blackwell. Nvidia blijft ondertussen diep verweven met de rest van de AI-rekenketen.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI’s Jalapeño-chip verslaat Nvidia Blackwell bij AI-inferentie, met belangrijke kanttekeningen"?
Volgens OpenAI leverde Jalapeño bij drie geteste taalmodellen 1,5 tot 1,9 keer meer AI werk per watt en een 1,7 tot 3,6 keer lagere end to end latentie dan Nvidia systemen met GB200 en GB300.
What are the key points to validate first?
Volgens OpenAI leverde Jalapeño bij drie geteste taalmodellen 1,5 tot 1,9 keer meer AI werk per watt en een 1,7 tot 3,6 keer lagere end to end latentie dan Nvidia systemen met GB200 en GB300. Jalapeño is een op inferentie gerichte ASIC die samen met Broadcom is ontwikkeld.
What should I do next in practice?
De vergelijking is niet volledig gelijkwaardig: Jalapeño gebruikt HBM4 geheugen, terwijl de geteste Blackwell systemen dat niet doen.