OpenAI:s Jalapeño visar styrka mot Nvidia – men är ingen GPU-ersättare

OpenAI:s första publicerade resultat för Jalapeño gör ett avgränsat anspråk – inte ett universellt: det egenutvecklade inferenschippet presterade bättre än Nvidias GB200- och GB300-system när det gäller arbete per watt och svarstid i utvalda tester för stora språkmodeller. Det är en viktig signal i en AI-infrastruktur där kostnader för el och kylning får allt större betydelse. Men Jalapeño är byggt för inferens, inte som en generell ersättare för Nvidias GPU:er, och jämförelsen har tydliga begränsningar. 57

Ett chip byggt för inferens

Jalapeño är ett applikationsspecifikt integrerat kretskort, en så kallad ASIC, som OpenAI har utvecklat tillsammans med Broadcom för inferens av stora språkmodeller. Inferens är den del av AI-arbetet där en färdigtränad modell genererar svar – till skillnad från träning, där modellen skapas och utvecklas. 619

Specialiserad hårdvara kan ge högre effektivitet i stora och förutsägbara arbetslaster, även om den blir mindre flexibel. Det är centralt för att förstå resultaten: Nvidias GPU-system är byggda för betydligt fler typer av arbetsuppgifter, medan Jalapeño optimeras för OpenAI:s sätt att köra modeller och dess samlade hårdvaru- och mjukvaruplattform. 56

Resultaten: mer arbete per watt och kortare svarstid

OpenAI säger att Jalapeño testades mot Nvidia-system baserade på GB200 och GB300 med tre offentligt tillgängliga modeller: GPT-OSS 120B, DeepSeek R1 670B och Moonshot AI:s Kimi K2.5 1T. I jämförelserna uppnådde Jalapeño enligt bolaget 1,5–1,9 gånger mer AI-arbete per watt vid maximal genomströmning och 1,7–3,6 gånger lägre total svarstid. 5713

De redovisade siffrorna visar spannet:

• Med GPT-OSS 120B nådde Jalapeño 85 448 blandade token per sekund och kilowatt, jämfört med 44 960 för GB200 – en fördel på ungefär 1,9 gånger. Den rapporterade totala svarstiden var 1,03 sekunder mot 1,80 sekunder. 7
• Med DeepSeek R1 670B nådde Jalapeño 19 641 blandade token per sekund och kilowatt, jämfört med 11 781 för GB300, eller omkring 1,7 gånger mer arbete per watt. Svarstiden uppgavs till 1,65 sekunder mot 5,99 sekunder. 7
• Med Kimi K2.5 1T levererade Jalapeño 18 195 blandade token per sekund och kilowatt, jämfört med 11 862 för GB300 – cirka 1,5 gånger mer arbete per watt. 7

För mycket interaktiva arbetslaster, där snabb respons är viktigare än maximal total genomströmning, rapporterade OpenAI ännu större fördelar: 2,1–4,1 gånger högre prestanda. 413

Jalapeño är klassat för 700 watt. De jämförda GB200- och GB300-acceleratorerna är klassade för 1 200 respektive 1 400 watt. OpenAI uppger dessutom att Jalapeños uppmätta kontinuerliga effektförbrukning låg på högst 550 watt i de testade arbetslasterna. 61213

Lägre effektförbrukning i själva acceleratorn innebär inte automatiskt en lika stor besparing för hela datacentret. Men om mer modellarbete kan utföras med mindre el minskar belastningen på elförsörjning, kylning och annan infrastruktur. Vid OpenAI:s planerade skala är det just den operativa effekten som gör specialiserad inferenshårdvara ekonomiskt intressant. 5

Hur rättvis är jämförelsen?

Testerna använde SemiAnalysis offentliga InferenceX-benchmark och mätte hela serverskedjan med flera modeller och driftlägen, i stället för att enbart jämföra teoretiska chipdata. Det gör resultaten mer relevanta för verklig inferens. 7

Samtidigt är detta resultat som OpenAI själv har rapporterat, inte ett oberoende och upprepat utslag från en leverantörsneutral testorganisation. 45

Den viktigaste invändningen gäller minnet. Jalapeño använder HBM4, medan de testade GB200- och GB300-systemen inte gör det. SemiAnalysis har därför beskrivit jämförelsen som ofullständig och inte helt rättvis. 5

Det spelar roll eftersom minneskapacitet och minnesbandbredd är centrala när stora modeller ska köras. Nvidias Rubin-plattform använder också HBM4 och kan därför bli en mer relevant jämförelse ur ett generationsperspektiv än Blackwell-system utan samma minnesteknik. Jalapeños försprång mot GB200 och GB300 visar alltså inte att chipet kommer att slå Rubin. 517

Det finns även en bredare jämförelseproblematik: ett inferenschip ställs mot system som är utvecklade för många ändamål. Nvidias GPU:er kan användas för träning, finjustering, inferens och nya modellarkitekturer. En ASIC blir som mest värdefull när arbetslasten är stabil nog för att motivera specialiseringen. 520

Jensen Huang tonar ned hotet – med en poäng

Nvidias vd Jensen Huang har tonat ned betydelsen av specialiserade chip i den bredare marknaden. Nvidias argument är i praktiken att företaget säljer en flexibel, komplett beräkningsplattform – inte bara ett inferenschip. GPU:er kan träna och finjustera modeller, köra inferens och anpassas när algoritmer och modellarkitekturer förändras. Till detta kommer CUDA-ekosystemet samt Nvidias nätverks- och datacentersystem. 5

Det gör att Jalapeño och Nvidia inte är direkt utbytbara för kunder med varierande behov. Ett specialiserat ASIC kan vinna på en tydligt definierad inferensuppgift, medan en GPU kan bära flera delar av AI-utvecklingen genom hela produktcykeln.

När börjar Jalapeño användas?

OpenAI planerar att börja använda Jalapeño i sin egen beräkningsinfrastruktur i mycket små volymer mot slutet av 2026. En större uppskalning ska följa under 2027. 1133

Satsningen ska sträcka sig över flera chipgenerationer. OpenAI har uppgett att andra och tredje generationens chip redan utvecklas, medan Broadcom beskriver en färdplan mot datacenter i gigawattskala tillsammans med Microsoft och andra datacenterpartner. 31130

Strategin bygger på så kallad vertikal samutveckling: modeller, inferensmjukvara, minne, nätverk, system och kisel utformas i samspel. Fördelen kan bli bättre kontroll över svarstid och kostnad per förfrågan. Nackdelen är att hårdvaran blir mindre allmänt användbar än en GPU. 3633

Den snabba utvecklingen är anmärkningsvärd, men en snabb så kallad tape-out – när chipdesignen skickas till tillverkning – är inte samma sak som beprövad massproduktion. Tillverkningsutbyte, systemintegration, mjukvarans mognad, leveranskedjor och stöd för framtida modeller avgör om benchmarkfördelen blir en varaktig infrastrukturell fördel. Det som hittills har bekräftats är tidsplanen, inte den slutliga produktionsvolymen. 3033

Varför Nvidia inte försvinner från OpenAI:s datacenter

OpenAI har sagt att bolaget även fortsättningsvis kommer att använda Nvidia för träning och som beräkningspartner. 411

Det är en logisk arbetsfördelning. Träning av avancerade modeller kräver flexibla system som kan hantera nya arkitekturer, algoritmer och experiment. Nvidias GPU:er stöds dessutom av CUDA och ett komplett ekosystem för nätverk och datacenter. 5

Jalapeño bör därför ses som en riktad ersättningsstrategi. OpenAI kan använda chipet för återkommande och förutsägbara inferensarbetslaster där företaget kontrollerar modeller, serveringsmjukvara och infrastruktur. Nvidia förblir viktigt för träning, forskning, modellutveckling och arbetslaster där flexibilitet väger tyngre än specialisering. 45

Vad betyder detta för Nvidia och AI-chipmarknaden?

Analytiker ser Jalapeño som ett tecken på att ett ASIC utvecklat av en så kallad hyperscaler – ett mycket stort teknikföretag med egen datacenterinfrastruktur – kan mäta sig med eller överträffa Blackwell-system i inferenseffektivitet. Det kan öka pressen på Nvidia inom inferens, särskilt när stora AI-aktörer försöker sänka kostnaden för att leverera modellernas svar och minska beroendet av en enda leverantör. 1732

OpenAI är inte ensamt om att utveckla egen hårdvara. Google, AWS och Meta nämns också bland de stora teknikbolag som tar fram egna AI-chip, vilket förstärker skiftet mot hårdvara anpassad för specifika arbetslaster. 5

Den mest sannolika utvecklingen är inte att GPU-marknaden kollapsar över en natt, utan att den delas upp tydligare:

• Specialiserade ASIC-chip kan bli attraktiva för stabila inferensarbetslaster i mycket stora volymer, särskilt hos plattformar som kontrollerar hela teknikstacken.
• Nvidias GPU:er lär fortsätta vara värdefulla för träning, snabb modellutveckling, blandade arbetslaster och mjukvarumiljöer där flexibilitet är avgörande. 520
• Kunder med egen hårdvara kan få bättre förhandlingsläge i framtida GPU-affärer genom att flytta förutsägbar inferensefterfrågan till sina egna chip.

Den avgörande frågan är om Jalapeños rapporterade fördelar håller i sig vid mer rättvisa jämförelser, nya modeller och produktion i stor skala. Hittills stöder bevisen en mer begränsad slutsats: OpenAI har visat att specialiserat kisel kan konkurrera mycket starkt med Blackwell i utvalda inferensarbetslaster. Men Nvidia är fortfarande djupt integrerat i resten av AI-beräkningsstacken.