AnswersPublished15 sources
OpenAIs Jalapeño-chip viser markante gevinster over Nvidia i nye test
OpenAI siger, at den specialbyggede Jalapeño chip overgik Nvidia GB200 og GB300 systemer på både energieffektivitet og svartid i de testede AI inferensopgaver. På tværs af GPT‑OSS 120B, DeepSeek R1 670B og Kimi K2.5 1T leverede Jalapeño ifølge OpenAI 1,5–1,9 gange mere AI arbejde pr.
Udgivet afBilleder genereret med GPT Image 1.5
Research answer
Key takeaways
- OpenAI siger, at den specialbyggede Jalapeño chip overgik Nvidia GB200 og GB300 systemer på både energieffektivitet og svartid i de testede AI inferensopgaver.
- På tværs af GPT‑OSS 120B, DeepSeek R1 670B og Kimi K2.5 1T leverede Jalapeño ifølge OpenAI 1,5–1,9 gange mere AI arbejde pr.
- I testen med DeepSeek R1 nåede chippen omkring 700 tokens pr. sekund pr.
- Jalapeño er designet specifikt til inferens – altså afvikling af færdigtrænede modeller – og ikke til træning af AI modeller.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed.. Topic tags: general web, openai, llm, agents, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clic
OpenAI forsøger at gøre det sværere for Nvidia at dominere hele AI-forsyningskæden. Virksomhedens nye Jalapeño-chip, udviklet i samarbejde med Broadcom, leverede ifølge de første offentliggjorte benchmarks højere energieffektivitet og lavere svartid end de sammenlignede Nvidia GB200- og GB300-systemer.
Det er dog vigtigt at holde fast i, hvad resultaterne faktisk viser: Der er tale om tidlige, leverandørindrapporterede resultater fra bestemte inferensopgaver – ikke en uafhængig test af alle AI-arbejdsbelastninger i drift. 4
7
Hvad viste benchmarkene?
OpenAI testede Jalapeño på GPT‑OSS 120B, DeepSeek R1 670B og Kimi K2.5 1T. På tværs af de tre modeller rapporterede virksomheden:
- 1,5–1,9 gange mere AI-arbejde pr. watt ved maksimal gennemstrømning.
- 1,7–3,6 gange lavere samlet svartid fra forespørgsel til svar.
- 2,1–4,1 gange højere ydelse i scenarier, der prioriterer meget interaktive svar.
4
I GPT‑OSS 120B-testen sammenlignet med GB200 oplyste OpenAI en maksimal blandet gennemstrømning pr. kilowatt på 85.448 mod 44.960. Den samlede svartid var 1,03 sekunder mod 1,80 sekunder på GB200.
Et andet mål er tiden mellem genererede tokens. Her rapporterede Jalapeño 0,69 millisekund – svarende til 1.459 tokens pr. sekund pr. bruger – mod 1,87 millisekund eller 535 tokens pr. sekund pr. bruger på GB200. 4
For DeepSeek R1 i MXFP4-format sammenlignet med GB300 angav OpenAI en gennemstrømning pr. kilowatt på 19.641 mod 11.781. Den samlede svartid faldt fra 5,99 til 1,65 sekunder. Ved den laveste tid mellem tokens nåede Jalapeño omkring 700 tokens pr. sekund pr. bruger, mens GB300 nåede 169. 4
I testen med Kimi K2.5 MXFP4 rapporterede OpenAI 1,5 gange højere maksimal gennemstrømning pr. kilowatt og 3,4 gange lavere samlet svartid end GB300. Ved den laveste tid mellem tokens lå resultaterne på omkring 694 mod 182 tokens pr. sekund pr. bruger. 4
En chip bygget til inferens
Jalapeño er ikke en almindelig GPU, der efterfølgende er tilpasset AI-inferens. Den er udviklet specifikt til at køre store sprogmodeller, når de først er trænet.
OpenAI stod for acceleratorens arkitektur, Broadcom bidrog med selve siliciumimplementeringen og netværksteknologien, mens Celestica håndterede integrationen af printkort, rack og samlet system. 1
Det offentliggjorte rackdesign bruger et stort sammenkoblet netværksområde, så en opgave kan blive inden for det samme system. Modellen og dens tilstand – herunder den såkaldte KV-cache – placeres og fastholdes lokalt for at begrænse dataflytning mellem chips og undgå kommunikationsstop. 4
OpenAI siger samtidig, at Jalapeño ikke opdeler arbejdet i separate ressourcer til henholdsvis præfyldning og token-generering. De samme fleksible ressourcer til beregning, hukommelse og netværk skal håndtere begge faser.
Det er relevant, fordi de to faser belaster hardwaren forskelligt: Behandling af brugerens prompt er typisk beregningstung, mens den efterfølgende generering af tokens i højere grad er begrænset af hukommelsesbåndbredde. 4
De offentligt tilgængelige oplysninger om systemets fulde specifikationer er fortsat begrænsede. En teknisk rapport beskriver et system med 128 chips, omkring 1,7 exaFLOPS og 27 terabyte HBM-hukommelse, men OpenAIs eget benchmarkindlæg indeholder ikke en komplet stykliste for hele racket. 4
Udviklet på ni måneder med hjælp fra AI
OpenAI siger, at Jalapeño gik fra det første design til produktionsklar chiptegning – det, branchen kalder et ”tape-out” – på ni måneder. Virksomheden beskriver det som en usædvanligt hurtig proces for en avanceret specialchip. 1
OpenAIs egne modeller blev brugt til blandt andet design, afprøvning af implementeringer, målinger, verifikation, optimering af aritmetiske kredsløb og programmering.
Ifølge OpenAI gjorde Codex sammen med GPT‑Astra det muligt at bringe tre modeller med åbne vægte, som ikke oprindeligt var planlagt, op på et højt ydelsesniveau på to måneder. I udvalgte opmærksomheds- og mixture-of-experts-blokke til GPT‑OSS var AI-genererede implementeringer 1,5–1,8 gange hurtigere end eksisterende, menneskeskrevne implementeringer. Tallene gælder dog de enkelte blokke og ikke hele modeller. 4
Derfor skal tallene læses med forbehold
Jalapeño blev testet med SemiAnalysis’ offentlige InferenceX-suite. Testen anvendte nominelle enkeltstående forespørgsler med 8.000 tokens input og 1.000 tokens output og målte hele processen med at levere et svar. Systemerne blev sammenlignet ved en tilsvarende brugeroplevelse, mens strømforbruget blev normaliseret efter de offentliggjorte chipværdier. 4
7
OpenAI angiver Jalapeños pakkeeffekt til 700 watt, men siger, at den målte effekt under disse arbejdsbelastninger var 550 watt eller lavere. GB200 og GB300 blev i sammenligningen modelleret til henholdsvis 1.200 og 1.400 watt. Det betyder, at fordelen pr. watt også afhænger af arbejdsbelastningen og af, hvordan strømforbruget opgøres. 4
SemiAnalysis oplyser, at organisationen overværede kørsler i OpenAIs laboratorium, men ikke selv gennemførte hele benchmarkpakken. Organisationen peger desuden på, at InferenceX-scenariet med enkeltstående 8.000/1.000-token-forespørgsler ikke tester længere kontekster, flertrinsagenter, routing, genbrug af præfikscache, cachehåndtering eller offload til andre systemer. Alle disse faktorer kan få stor betydning for ydelsen i produktion. 4
Sammenligningen er også tidsbegrænset. GB200 og GB300 er kommercielle systemer fra Nvidias Blackwell-generation, og nyere Nvidia-platforme kan være mere relevante konkurrenter, når Jalapeño bliver bredt taget i brug.
Nvidia rapporterer eksempelvis gennemløb for DeepSeek R1 på GB300 under MLPerf Inference – en anden, offlinebaseret testmetode. Disse resultater kan derfor ikke sammenlignes direkte med Jalapeños interaktive tal for tokens pr. bruger. 2
4
Hvornår kommer Jalapeño i brug?
OpenAI planlægger en begrænset udrulning i virksomhedens egen databehandlingsinfrastruktur inden udgangen af 2026 og mere kapacitet i 2027. En anden generation er ifølge virksomheden ”dybt under udvikling”, mens arbejdet med en tredje generation er begyndt. 4
6
Jalapeño skal ikke sælges til eksterne kunder. OpenAIs hardwarechef Richard Ho har sagt, at den interne efterspørgsel er så stor, at virksomheden ikke ser et eksternt salg som realistisk. 6
Chippen skal derfor først og fremmest supplere – ikke erstatte – Nvidia og AMD. OpenAI vil fortsat bruge acceleratorer fra Nvidia og andre partnere, især fordi Jalapeño er udviklet til inferens og ikke til træning af modeller. 4
6
Et skridt ind i kampen om egne chips
OpenAI bevæger sig dermed ind i den samme vertikale integrationskamp, som allerede omfatter flere store teknologivirksomheder. Google har TPU-chips til både træning og inferens, mens Amazon og Microsoft udvikler egne AI-chips. Anthropic har også sagt, at virksomheden arbejder på et internt chipdesign-projekt. 6
Jalapeños nuværende fordel er dog snævert defineret: OpenAI hævder bedre inferensydelse for store sprogmodeller på de offentliggjorte benchmarkkonfigurationer. Først når chippen er udrullet i større skala og testet på flere typer produktionsbelastninger, bliver det tydeligere, hvor stor den praktiske fordel faktisk er.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAIs Jalapeño-chip viser markante gevinster over Nvidia i nye test"?
OpenAI siger, at den specialbyggede Jalapeño chip overgik Nvidia GB200 og GB300 systemer på både energieffektivitet og svartid i de testede AI inferensopgaver.
What are the key points to validate first?
OpenAI siger, at den specialbyggede Jalapeño chip overgik Nvidia GB200 og GB300 systemer på både energieffektivitet og svartid i de testede AI inferensopgaver. På tværs af GPT‑OSS 120B, DeepSeek R1 670B og Kimi K2.5 1T leverede Jalapeño ifølge OpenAI 1,5–1,9 gange mere AI arbejde pr.
What should I do next in practice?
I testen med DeepSeek R1 nåede chippen omkring 700 tokens pr. sekund pr.
Sources
theverge.comOpenAI says its Jalapeño chip can power faster AI responses than the competition
rits.shanghai.nyu.eduOpenAI and Broadcom Unveil Jalapeño, a Custom LLM Inference ...
developer.nvidia.comAI Inference Performance Benchmarks - NVIDIA Developer