Dette viser OpenAIs første Jalapeño-målinger egentlig

OpenAIs første detaljerte resultater for Jalapeño gir et tydelig, men avgrenset bilde: Den spesialbygde brikken kan være mer energieffektiv og gi raskere svar enn de konkrete Nvidia GB200- og GB300-systemene som ble brukt i sammenligningen.

På SemiAnalysis’ offentlige InferenceX-benchmark rapporterte OpenAI 1,5–1,9 ganger mer AI-arbeid per watt og 1,7–3,6 ganger lavere ende-til-ende-forsinkelse på tvers av tre åpne modeller.

Det er oppsiktsvekkende for et selskap som håndterer enorme mengder AI-forespørsler. Men det er ikke det samme som å ha bevist at Jalapeño er en raskere eller billigere erstatning for GPU-er i alle situasjoner. Testene var begrensede, brikken er laget utelukkende for inferens, og tallene ble i hovedsak generert av OpenAI på tekniske prøvebrikker. 14

De viktigste benchmark-tallene

OpenAI sammenlignet Jalapeño med Nvidia-systemer basert på GB200 og GB300 i InferenceX, en test som skal måle hele prosessen fra en forespørsel sendes inn til svaret er ferdig. Effektivitetstallene ble normalisert ved hjelp av de publiserte effektverdiene for akseleratorene.

OpenAI rapporterte følgende resultater:

• 1,5–1,9 ganger mer AI-arbeid per watt ved maksimal gjennomstrømming enn Nvidia-systemene i sammenligningen.
• 1,7–3,6 ganger lavere ende-til-ende-forsinkelse.
• 2,1–4,1 ganger høyere ytelse på svært interaktive arbeidslaster, basert på operasjonspunktene OpenAI valgte ut. 4

Den største rapporterte forskjellen i de oppgitte resultatene kom i testen med DeepSeek R1 670B. Jalapeño fullførte en forespørsel på 1,65 sekunder, mot 5,99 sekunder for GB300-systemet. 1112

Dette er relative benchmark-resultater – ikke et løfte om at ChatGPT alltid vil svare tilsvarende raskere, eller at API-prisene vil falle i samme takt. Ytelsen i praksis avhenger blant annet av modell, programvare, batching, nettverk, kontekstlengde, svarlengde og om man prioriterer lav ventetid eller høy samlet kapasitet.

Hvilke modeller og arbeidslaster ble testet?

Testen omfattet tre offentlig tilgjengelige modeller med åpne vekter:

Modell	Nvidia-sammenligning	Rapportert resultat for Jalapeño
GPT-OSS 120B	GB200	Omtrent 1,9 ganger mer arbeid per watt; 1,03 sekunder mot 1,80 sekunder i ende-til-ende-forsinkelse
DeepSeek R1 670B	GB300	Omtrent 1,7 ganger mer arbeid per watt; 1,65 sekunder mot 5,99 sekunder i forsinkelse
Kimi K2.5 1T	GB300	Omtrent 1,5 ganger mer arbeid per watt; 1,56 sekunder mot 5,31 sekunder i forsinkelse

Tallene over kommer fra publiserte sammendrag av testene, ikke fra en fullstendig, uavhengig reproduksjon av hele testpakken. 61112

Arbeidslasten var nominelt én enkelt tur, med 8 000 input-tokens og 1 000 output-tokens. Det gir et kontrollert sammenligningsgrunnlag, men dekker ikke hele bredden av trafikk i en faktisk AI-tjeneste. Resultatene sier blant annet lite om flertrinnssamtaler, verktøykall, agentarbeidsflyter, svar med varierende lengde, batching eller forespørsler med svært lang kontekst. 813

Testen må også forstås som en måling av bestemte kombinasjoner av maskinvare og programvare. Nye kompilatorer, kjerner, kvantisering, planlegging, modellarkitekturer eller oppdateringer i Nvidias programvarestakk kan endre forskjellen mellom systemene.

Hva består Jalapeño-systemet av?

Jalapeño er en ASIC – en applikasjonsspesifikk integrert krets – som OpenAI har utviklet sammen med Broadcom for inferens i store språkmodeller. I motsetning til en generell GPU er den optimalisert for å kjøre ferdigtrente modeller og generere svar. 15

De rapporterte spesifikasjonene på systemnivå omfatter:

• 128 akseleratorbrikker per system på rack-nivå.
• Omtrent 1,7 exaFLOPS med 4-bits beregninger.
• Rundt 27 TB høybåndbreddeminne i hele systemet.
• En oppgitt effekt på 700 watt per brikke, mot publiserte verdier på 1 200 watt for GB200- og 1 400 watt for GB300-akseleratorer. 121419

På brikkenivå bruker den rapporterte B0-versjonen en beregningsbrikke i retikkelstørrelse, produsert hos TSMC med N3P-prosess. Den er oppgitt til 13,4 PFLOPS MXFP4-beregninger. 18

Utformingen handler derfor om mer enn selve prosessoren. Minne, sammenkobling, nettverk og kommunikasjon mellom brikkene er sentrale deler av rack-plattformen. Store språkmodeller må ofte fordeles over mange brikker, og da kan dataflyten mellom dem bli like viktig som rå beregningskraft. 1819

Designet på rundt ni måneder

OpenAI og Broadcom skal ha gått fra idé til «tape-out» – tidspunktet da et ferdig brikkedesign sendes til produksjon – på omtrent ni måneder. Det er svært kort tid for en avansert spesialbrikke. 720

Kunstig intelligens skal ha vært en del av utviklingsprosessen. Det betyr likevel ikke at en AI-modell alene designet og produserte prosessoren. Den rapporterte utviklingen involverte fortsatt menneskelige arkitekt- og ingeniørteam, Broadcoms arbeid med halvlederimplementering, produksjonspartnere og integrasjon av hele systemet. 713

Den mest nøkterne tolkningen er at OpenAI brukte sin kunnskap om språkmodellers arbeidslaster – sammen med AI-verktøy i ingeniørarbeidet – til å utvikle maskinvare og programvare mot et smalt og forutsigbart mål. Slik spesialisering kan gi bedre effektivitet, men innebærer også mindre fleksibilitet enn en programmerbar GPU.

Hvorfor Jalapeño bare er for inferens

Jalapeño er laget for å kjøre ferdigtrente modeller, ikke for å trene nye frontmodeller. OpenAI vil derfor fortsatt trenge programmerbare akseleratorer, særlig GPU-er, til modelltrening, forskning, eksperimentering og arbeidslaster som ikke passer godt til en fast spesialisert inferensbrikke. 813

Det begrenser også betydningen av påstanden om at Jalapeño «slår Nvidia». Brikken kan ha bedre resultater enn de testede Nvidia-konfigurasjonene på enkelte inferensmål, samtidig som Nvidia-maskinvare fortsatt er avgjørende andre steder i OpenAIs databehandlingsstakk.

En spesialisert ASIC kan være svært god på én forutsigbar oppgave i stort volum uten å erstatte den bredere plattformen som trengs for trening, raske modellendringer og forskning.

Dette viser benchmarken ikke

Resultatene bør leses som «bedre i disse rapporterte testene», ikke som «verdens beste AI-system totalt». Flere forbehold er viktige:

• Kjøringene brukte en fast og relativt enkel arbeidslast med én tur, ikke hele spekteret av produksjonstrafikk. 1112
• De publiserte tallene kom fra OpenAIs tester på tekniske prøvebrikker. SemiAnalysis-relatert omtale beskriver at kjøringene ble verifisert i OpenAIs laboratorium, men de underliggende tallene ble fortsatt levert av OpenAI. 214
• Effektiviteten ble normalisert med brikkenes publiserte effektverdier. Det er nyttig for en sammenligning, men ikke det samme som en full analyse av kostnader eller energiforbruk i et datasenter. 11
• Resultatene kan endre seg når kompilatorer, kjerner, kjøretidsmiljøer, kvantisering, batching, nettverk og Nvidias programvare blir oppdatert.
• Sammenligningen fastslår ikke hvordan Jalapeño presterer mot alle nyere eller kommende akseleratorer, blant annet Nvidias produkter etter Blackwell og de nyeste systemene fra Google, Amazon, Microsoft, AMD eller andre leverandører. 238

Det finnes heller ikke grunnlag i disse resultatene for å hevde en universell kostnadsreduksjon på 50 prosent, en garantert lavere API-pris eller at Nvidia umiddelbart vil bli skjøvet ut. Dokumentasjonen støtter ytelses- og effektivitetspåstander under bestemte betingelser – ikke bredere kommersielle konklusjoner.

Når skal OpenAI ta Jalapeño i bruk?

OpenAI planlegger å begynne å ta Jalapeño i bruk i sin egen infrastruktur innen utgangen av 2026. Masseproduksjon og en bredere utrulling er ventet i 2027. På lengre sikt ser selskapet for seg datasentre i gigawatt-skala sammen med Microsoft og andre infrastrukturpartnere, over flere generasjoner med brikker. 16

Brikken er først og fremst ment for OpenAIs interne behov, ikke for salg som en standardprosessor. Andre selskaper bør derfor ikke regne med å kunne kjøpe Jalapeño-maskinvare eller leie en offentlig Jalapeño-skyinstans på bakgrunn av disse kunngjøringene. 16

Intern bruk gjør det mulig for OpenAI å optimalisere brikken mot egne modeller, kjerner og systemer. Det sparer også selskapet for kravene som følger med å bli en vanlig halvlederleverandør – som programvarestøtte, salg, kundekonkurranse og et bredt økosystem. Dette er en strategisk tolkning av modellen; det som er bekreftet, er at planen gjelder intern bruk fremfor eksternt brikkesalg. 16

En del av et bredere kappløp om AI-maskinvare

Jalapeño bør forstås som én del av OpenAIs samlede strategi for datakraft. Selskapet kombinerer kapasitet fra Microsoft og andre skyleverandører, Nvidia-klasse-GPU-er til fleksible og treningsintensive oppgaver og egenutviklede brikker til stabile inferensarbeidslaster der spesialisering kan lønne seg. OpenAIs egen beskrivelse av porteføljen omfatter Microsoft, Nvidia, AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy og SoftBank.

Strategien speiler en bredere utvikling i bransjen. Google utvikler TPU-er, Amazon tilbyr Trainium og Inferentia, Microsoft har Maia, AMD konkurrerer med generelle AI-GPU-er, og Nvidia leverer fortsatt de mest allsidige, programmerbare systemene. Anthropic satser også på stadig mer tilpasset infrastruktur gjennom skypartnerne sine, selv om materialet her ikke gir grunnlag for en direkte ytelsessammenligning med Anthropics systemer.

Den kortsiktige betydningen er derfor mer nyansert enn en historie om at GPU-er blir erstattet. Jalapeño kan gi OpenAI større kontroll over kostnadene og svartidene for inferens, forsyningen og den videre maskinvareplanen. Nvidia forblir samtidig viktig for trening og fleksibel forskning, mens OpenAIs egen brikke gir selskapet et spesialisert alternativ for de forutsigbare og svært volumtunge tjenesteoppgavene som utgjør en stor del av infrastrukturen. 813