AnswersPublished19 sources
OpenAI hævder, at Jalapeño-chip er hurtigere og mere energieffektiv end Nvidia GB200 og GB300
OpenAI siger, at Jalapeño leverede 1,5–1,9× mere AI arbejde pr. watt og 1,7–3,6× lavere samlet svartid end de sammenlignede Nvidia GB200 og GB300 systemer i InferenceX tests.
Udgivet afRedigeret med GPT-5.6 LunaBilleder genereret med GPT Image 1.5
Research answer
Key takeaways
- OpenAI siger, at Jalapeño leverede 1,5–1,9× mere AI arbejde pr. watt og 1,7–3,6× lavere samlet svartid end de sammenlignede Nvidia GB200 og GB300 systemer i InferenceX tests.
- For DeepSeek R1 rapporterede OpenAI omkring 700 tokens pr. sekund pr.
- Jalapeño er udviklet til inferens – altså afvikling af færdigtrænede modeller – ikke træning.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co-developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co-developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed. These are early. Topic tags: general, documentation, general web, education, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text,
OpenAI vil ikke længere være helt afhængig af standardiserede AI-acceleratorer. Selskabets første egenudviklede chip, Jalapeño, har ifølge nye, virksomhedsdrevne tests leveret mere AI-arbejde pr. watt, lavere samlet svartid og højere interaktiv tokenhastighed end de Nvidia GB200- og GB300-systemer, der blev brugt som sammenligningsgrundlag. Resultaterne blev målt på GPT‑OSS 120B, DeepSeek R1 og Kimi K2.5 1T. 3
4
Det vigtige forbehold er, at der er tale om tidlige resultater fra en bestemt InferenceX-konfiguration. De udgør ikke en uafhængig eller universel sammenligning af alle produktionsbelastninger – og heller ikke nødvendigvis af de Nvidia-platforme, der er tilgængelige, når Jalapeño kommer bredt i drift. 4
7
Hvad viste Jalapeño-testene?
På tværs af de tre modeller rapporterede OpenAI 1,5–1,9× mere AI-arbejde pr. watt ved maksimal gennemstrømning og 1,7–3,6× lavere samlet svartid end sammenligningssystemerne. Ved særligt interaktive arbejdsbelastninger oplyste selskabet en ydelsesfordel på 2,1–4,1×. 3
De mest konkrete resultater var:
GPT‑OSS 120B mod Nvidia GB200: Jalapeño nåede ifølge OpenAI 85.448 enheder for maksimal blandet gennemstrømning pr. kilowatt, mod 44.960 for GB200. Den samlede svartid var 1,03 sekunder mod 1,80 sekunder. Ved den laveste tid mellem tokens svarede resultatet til cirka 1.459 tokens pr. sekund pr. bruger, mod 535 på GB200.
4
DeepSeek R1 MXFP4 mod Nvidia GB300: Jalapeño leverede ifølge testen 19.641 enheder for maksimal blandet gennemstrømning pr. kilowatt, mod 11.781 for GB300. Den samlede svartid var 1,65 sekunder mod 5,99 sekunder. Ved den laveste tid mellem tokens rapporterede OpenAI omkring 700 tokens pr. sekund pr. bruger, mod 169 på GB300.
6
Kimi K2.5 MXFP4 mod Nvidia GB300: OpenAI rapporterede 1,5× højere maksimal gennemstrømning pr. kilowatt, 3,4× lavere samlet svartid og omkring 694 tokens pr. sekund pr. bruger, mod 182 på GB300.
"Tokens pr. sekund pr. bruger" er et mål for oplevet interaktivitet. Det beskriver, hvor hurtigt den enkelte forespørgsel modtager nye tokens – ikke kun hvor mange tokens et helt racksystem kan producere under høj parallel belastning. Forskellen er vigtig for chat, programmering og AI-agenter, hvor responshastigheden er en del af selve brugeroplevelsen.
Derfor kan en specialiseret chip være hurtigere
Jalapeño er udviklet specifikt til inferens i store sprogmodeller i stedet for at være en mere generel GPU, der både skal håndtere træning og inferens. OpenAI har stået for arkitekturen, Broadcom for implementering af selve chippen og netværket, mens Celestica har bidraget med kort-, rack- og systemintegration. 17
32
Designet er bygget til systemer i rackskala med et stort, sammenhængende netværksdomæne. Tanken er, at en arbejdsbelastning så vidt muligt kan blive i det samme system. OpenAI siger desuden, at modeltilstand – herunder KV-cachen, som indeholder information om den allerede behandlede tekst – placeres og fastholdes lokalt, hvor det er muligt. Det kan begrænse datatransport mellem chips og reducere kommunikationsstop under genereringen. 4
6
Jalapeño opdeler heller ikke nødvendigvis forbehandling af prompten og selve token-genereringen i to faste ressourcepuljer. I stedet beskriver OpenAI computerkraft, hukommelse og netværk som fleksible ressourcer, der kan bruges på tværs af begge faser. Forbehandlingen, eller prefill, er typisk beregningstung, mens decode – genereringen af svaret token for token – ofte begrænses af hukommelsesflytning og båndbredde. 4
6
De offentligt tilgængelige tekniske oplysninger er dog fortsat begrænsede. En teknisk beskrivelse omtaler et system med 128 chips, omkring 1,7 exaFLOPS og 27 TB HBM-hukommelse, men OpenAIs benchmarkmeddelelse indeholder ikke en komplet stykliste for racket eller tilstrækkelige oplysninger til at genskabe alle resultater uafhængigt. 4
OpenAI siger, at AI hjalp med at designe chippen
OpenAI oplyser, at Jalapeño gik fra den første designfase til såkaldt tape-out – det punkt, hvor chipdesignet sendes til produktion – på ni måneder. Det er en usædvanligt kort tidsplan for en avanceret specialchip. 17
21
Selskabet siger også, at egne AI-modeller hjalp med designudforskning, implementering, målinger, verifikation, optimering af aritmetiske kredsløb og programmering. OpenAI rapporterede, at Codex med GPT‑Astra på to måneder hjalp med at bringe tre open-weight-modeller, som ikke oprindeligt var planlagt, op på et højt ydelsesniveau.
I udvalgte attention- og mixture-of-experts-blokke i GPT‑OSS skulle AI-genererede implementationer være 1,5–1,8× hurtigere end eksisterende implementationer skrevet af mennesker. Tallene gælder bestemte modelblokke og ikke komplette resultater for modelafvikling. 4
Benchmarken har klare begrænsninger
Jalapeños overskrifter bør læses med en vis forsigtighed.
Det er en inferenschip – ikke en trænings-GPU
Jalapeño er beregnet til at afvikle allerede trænede modeller. Den er ikke designet til modeltræning, og OpenAI forventer derfor fortsat at bruge Nvidia-, AMD- og andre acceleratorer til træning samt dele af sin inferenskapacitet. 4
6
Chippen er dermed et specialiseret supplement til OpenAIs infrastruktur – ikke en fuldstændig erstatning for de GPU-systemer, selskabet bruger til forskellige arbejdsbelastninger.
Testen dækkede en afgrænset arbejdsbelastning
Sammenligningen brugte SemiAnalysis’ offentlige InferenceX-benchmark med nominelt enkeltstående forespørgsler, der indeholdt 8.000 tokens input og 1.000 tokens output. Målingen omfattede hele processen fra forespørgsel til svar, systemerne blev sammenlignet ved en tilsvarende brugeroplevelse, og resultaterne blev normaliseret efter de offentliggjorte effektværdier for chippen. 4
7
SemiAnalysis oplyser, at organisationen overværede kørsler i OpenAIs laboratorium, men ikke selv gennemførte hele benchmarksuiten. Organisationen har også påpeget, at opsætningen ikke tester længere kontekster, flertrins-agenter, routing, prefix-caching, cachehåndtering eller offload. Sådanne software- og serveringsvalg kan ændre den faktiske ydelse i produktion betydeligt. 6
Effektmålingen påvirker resultatet pr. watt
OpenAI angiver Jalapeño til 700 watt pakkeeffekt og siger, at den målte vedvarende effekt lå på eller under 550 watt i de testede arbejdsbelastninger. Til sammenligning blev GB200 modelleret til 1.200 watt og GB300 til 1.400 watt. Den rapporterede fordel pr. watt afhænger derfor delvist af arbejdsbelastningen, målepunktet og metoden til at opgøre strømforbruget. 4
Nvidia-sammenligningen er tidsbegrænset
Testen sammenlignede Jalapeño med de bedste tilgængelige GB200- eller GB300-resultater på det pågældende tidspunkt. Nyere Nvidia-systemer kan dog være mere relevante, når Jalapeño bliver rullet ud i større skala.
Nvidia rapporterer desuden DeepSeek R1-resultater for GB300 efter MLPerf’s anderledes, offline-baserede metode. Disse tal kan derfor ikke sammenlignes direkte med Jalapeños interaktive resultater for tokens pr. bruger. 1
2
4
Planen: intern drift og flere chipgenerationer
OpenAI planlægger en begrænset udrulning af Jalapeño i sin egen computerinfrastruktur inden udgangen af 2026. Selskabet forventer større kapacitet i 2027. Samtidig er anden generation angiveligt langt fremme i udviklingen, mens en tredje generation allerede er under opstart. 4
6
Foreløbig er Jalapeño en intern platform, som andre virksomheder hverken kan købe eller leje. OpenAIs hardwarechef Richard Ho har sagt, at den interne efterspørgsel er for høj til, at eksternt salg er aktuelt. 6
Strategien er derfor at supplere Nvidia og AMD – ikke straks at erstatte dem. OpenAI har fortsat brug for generelle acceleratorer til træning, og den fremtidige infrastruktur vil sandsynligvis bestå af flere forskellige typer hardware.
Google udvikler allerede TPU-chips til både træning og inferens, mens Amazon og Microsoft har udviklet egne AI-chips. Anthropic har også beskrevet et arbejde med at udvikle specialiseret silicium. 6
Konklusionen
Jalapeños tidlige resultater peger på, at en accelerator, der er skræddersyet til en bestemt arbejdsbelastning, kan slå generelle systemer på de mål, der betyder mest for interaktive sprogmodeller: energieffektivitet, samlet svartid og antallet af tokens, der leveres til den enkelte bruger.
Men resultaterne underbygger en smallere konklusion end, at OpenAI generelt har slået Nvidia. Fordelen gælder udvalgte modeller, en bestemt InferenceX-arbejdsbelastning og sammenligninger med GB200- og GB300-konfigurationer. Det er fortsat uvist, hvordan Jalapeño vil klare bredere produktionsbelastninger, længere kontekster, AI-agenter med flere trin, andre softwarestakke, træningsrelaterede opgaver og de Nvidia-systemer, der findes, når OpenAIs udrulning vokser.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI hævder, at Jalapeño-chip er hurtigere og mere energieffektiv end Nvidia GB200 og GB300"?
OpenAI siger, at Jalapeño leverede 1,5–1,9× mere AI arbejde pr. watt og 1,7–3,6× lavere samlet svartid end de sammenlignede Nvidia GB200 og GB300 systemer i InferenceX tests.
What are the key points to validate first?
OpenAI siger, at Jalapeño leverede 1,5–1,9× mere AI arbejde pr. watt og 1,7–3,6× lavere samlet svartid end de sammenlignede Nvidia GB200 og GB300 systemer i InferenceX tests. For DeepSeek R1 rapporterede OpenAI omkring 700 tokens pr. sekund pr.
What should I do next in practice?
Jalapeño er udviklet til inferens – altså afvikling af færdigtrænede modeller – ikke træning.
Sources
openai.comJalapeño’s first results show industry-leading speed and efficiency in AI inference
techcrunch.comOpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show | TechCrunch