AnswersPublished25 sources
Il chip Jalapeño di OpenAI supera Nvidia Blackwell nell’inferenza, ma non in tutto
Nei test su tre modelli linguistici, OpenAI ha misurato con Jalapeño dall’1,5 all’1,9× di lavoro AI in più per watt e una latenza end to end inferiore di 1,7–3,6× rispetto ai sistemi Nvidia GB200 e GB300. Jalapeño è un ASIC progettato per l’inferenza, non un sostituto generale delle GPU: ha una potenza nominale di 7...
Pubblicato daModificato con GPT-5.6 LunaImmagini generate con GPT Image 1.5
Research answer
Key takeaways
- Nei test su tre modelli linguistici, OpenAI ha misurato con Jalapeño dall’1,5 all’1,9× di lavoro AI in più per watt e una latenza end to end inferiore di 1,7–3,6× rispetto ai sistemi Nvidia GB200 e GB300.
- Jalapeño è un ASIC progettato per l’inferenza, non un sostituto generale delle GPU: ha una potenza nominale di 700 watt e, nei test riportati, ha mantenuto un consumo sostenuto pari o inferiore a 550 watt.
- Il confronto non è del tutto omogeneo: Jalapeño utilizza memoria HBM4, assente nei sistemi Blackwell testati.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What are the reported performance results, power and cost-efficiency benefits, testing details and caveats, deployment timeline, development. Article summary: OpenAI reports that Jalapeño—a Broadcom co-developed, inference-focused ASIC—beats Nvidia’s Blackwell GB200/GB300 systems on the tested LLM-serving workloads for work per watt and latency. It is a meaningful proof point . Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
I primi risultati pubblicati da OpenAI su Jalapeño sostengono una tesi precisa, non universale: il suo ASIC (circuito integrato specifico per applicazione) progettato per l’inferenza ha superato i sistemi Nvidia GB200 e GB300 in efficienza energetica e latenza in alcuni test di servizio di modelli linguistici. È un segnale importante per l’infrastruttura AI, dove elettricità e raffreddamento incidono sempre di più sul costo di ogni risposta. Ma Jalapeño nasce per l’inferenza, non per sostituire le GPU Nvidia in ogni attività, e il confronto presenta limitazioni rilevanti. 5
7
Un chip costruito per l’inferenza
L’inferenza è la fase in cui un modello già addestrato genera risposte, a differenza dell’addestramento necessario per crearlo. Jalapeño è un ASIC sviluppato da OpenAI in collaborazione con Broadcom per gestire questo tipo di carichi su larga scala. Un chip specializzato può rinunciare a una parte della flessibilità delle GPU in cambio di maggiore efficienza quando il lavoro è prevedibile e ripetuto milioni di volte. 6
19
Questa specializzazione è il punto chiave per leggere correttamente i benchmark. I sistemi Nvidia sono pensati per un ventaglio molto più ampio di utilizzi; Jalapeño, invece, è ottimizzato per i requisiti di servizio di OpenAI e per il suo insieme integrato di modelli, software e infrastruttura. 5
6
I risultati dichiarati da OpenAI
OpenAI afferma di aver confrontato Jalapeño con sistemi basati su Nvidia GB200 e GB300 utilizzando tre modelli pubblicamente disponibili: GPT-OSS 120B, DeepSeek R1 670B e Kimi K2.5 1T di Moonshot AI. Nel complesso, l’azienda ha rilevato dall’1,5 all’1,9× di lavoro AI in più per watt al throughput di picco e una latenza end-to-end inferiore di 1,7–3,6×. 5
7
13
I dati relativi ai singoli modelli mostrano la variabilità del vantaggio:
- Su GPT-OSS 120B, Jalapeño ha raggiunto 85.448 token misti al secondo per kilowatt, contro 44.960 del sistema GB200: un vantaggio di circa 1,9×. La latenza end-to-end indicata è di 1,03 secondi contro 1,80.
7
- Su DeepSeek R1 670B, Jalapeño ha raggiunto 19.641 token misti al secondo per kilowatt, contro 11.781 del GB300, pari a circa 1,7× di lavoro in più per watt. La latenza dichiarata è di 1,65 secondi contro 5,99.
- Su Kimi K2.5 1T, il chip di OpenAI ha prodotto 18.195 token misti al secondo per kilowatt, contro 11.862 del GB300, per un vantaggio di circa 1,5×.
Nei carichi altamente interattivi, dove conta soprattutto rispondere rapidamente e non massimizzare il throughput complessivo, OpenAI ha dichiarato un vantaggio ancora maggiore: 2,1–4,1× di prestazioni in più. 4
13
Anche i consumi aiutano a spiegare l’interesse per il progetto. Jalapeño ha una potenza nominale di 700 watt, mentre gli acceleratori confrontati sono indicati rispettivamente a 1.200 watt per GB200 e 1.400 watt per GB300. OpenAI afferma inoltre che, nei carichi testati, il consumo sostenuto misurato da Jalapeño è rimasto pari o inferiore a 550 watt. 6
12
13
Un minor consumo dell’acceleratore, da solo, non equivale automaticamente a un identico risparmio sull’intero data center. Tuttavia, ottenere più lavoro con la stessa quantità di energia può ridurre la pressione su alimentazione, raffreddamento e distribuzione elettrica. Alla scala prevista da OpenAI, è questo il principale argomento economico a favore del silicio personalizzato per l’inferenza. 5
Quanto è solido il confronto?
I test hanno utilizzato InferenceX, un benchmark pubblico di SemiAnalysis, e hanno misurato il servizio end-to-end su diversi modelli e punti operativi, invece di limitarsi alle specifiche teoriche del chip. Il risultato è quindi più vicino alle condizioni operative reali di un sistema di inferenza. 7
Resta però il fatto che si tratta di risultati riportati da OpenAI, non di una valutazione indipendente replicata da un soggetto neutrale. 4
5
C’è poi una differenza generazionale importante: Jalapeño usa memoria HBM4, mentre i sistemi GB200 e GB300 testati non la utilizzano. SemiAnalysis ha definito per questo il confronto incompleto e non del tutto equo. 5
La memoria è essenziale per servire modelli di grandi dimensioni, sia per capacità sia per larghezza di banda. La piattaforma Nvidia Rubin utilizza anch’essa HBM4 e potrebbe quindi essere un termine di paragone più appropriato rispetto ai sistemi Blackwell privi della stessa tecnologia. Il vantaggio dichiarato da Jalapeño su GB200 e GB300 non dimostra dunque che il chip supererà Rubin. 5
17
Il confronto mette inoltre un chip esclusivamente dedicato all’inferenza contro sistemi progettati per un uso più ampio. Le GPU Nvidia possono essere impiegate per addestramento, fine-tuning, inferenza e architetture in evoluzione; un ASIC diventa davvero vantaggioso quando il carico di lavoro è abbastanza stabile da giustificare la specializzazione. 5
20
Quando arriverà e come proseguirà lo sviluppo
OpenAI prevede di iniziare a utilizzare Jalapeño nella propria infrastruttura di calcolo in volumi molto ridotti entro la fine del 2026, con un’espansione più consistente nel 2027. 11
33
Il progetto è pensato come una piattaforma su più generazioni. OpenAI ha dichiarato che i chip di seconda e terza generazione sono già in sviluppo; Broadcom descrive inoltre una roadmap destinata a implementazioni su scala di gigawatt con Microsoft e altri partner di data center. 3
11
30
La strategia più ampia è quella del co-design verticale: modelli, software di inferenza, memoria, networking, sistemi e silicio vengono progettati tenendo conto gli uni degli altri. Il possibile beneficio è un controllo più stretto su latenza e costi di servizio; il compromesso è una minore riutilizzabilità rispetto a una GPU general-purpose. 3
6
33
La velocità di sviluppo è notevole, ma arrivare rapidamente al tape-out — la fase in cui il progetto viene inviato alla produzione — non equivale ad avere già una produzione di massa collaudata. Rendimento produttivo, integrazione dei sistemi, maturità del software, disponibilità della filiera e capacità di supportare i modelli futuri determineranno se il vantaggio nei benchmark si trasformerà in un vantaggio infrastrutturale duraturo. Le informazioni disponibili confermano il calendario previsto, non la scala produttiva finale. 30
33
Perché Jalapeño non sostituisce subito Nvidia
OpenAI ha chiarito che continuerà a fare affidamento su Nvidia per l’addestramento e come partner di calcolo. 4
11
La divisione dei compiti è logica. Addestrare modelli di frontiera richiede sistemi flessibili, in grado di adattarsi a nuove architetture, algoritmi e fasi di sperimentazione. Le GPU Nvidia beneficiano inoltre dell’ecosistema software CUDA e di uno stack completo che comprende networking e sistemi per data center. 5
Jalapeño va quindi interpretato come una strategia di sostituzione mirata. OpenAI potrebbe usarlo per carichi di inferenza ricorrenti e prevedibili, sui quali controlla modelli, software di servizio e infrastruttura. Nvidia resta invece importante per addestramento, ricerca, iterazione dei modelli e attività in cui la flessibilità conta più della specializzazione. 4
5
La risposta di Nvidia è più sfumata di un semplice “i chip personalizzati non contano”
L’argomento più forte a favore di Nvidia non è che un ASIC non possa vincere un benchmark di inferenza ristretto. È che molti clienti hanno bisogno di una piattaforma capace di svolgere lavori diversi mentre modelli e software cambiano. Le GPU possono addestrare, ottimizzare e servire i modelli; un ASIC concentra il proprio vantaggio su un insieme più limitato di carichi. Anche software, networking e sistemi Nvidia rendono il confronto più ampio del solo throughput del chip. 5
A limitare l’impatto competitivo immediato è anche la scala di distribuzione. In una prima fase Jalapeño servirà l’infrastruttura interna di OpenAI, invece di essere un’alternativa generalmente disponibile che i clienti possano acquistare e implementare sul mercato. 1
4
In questo senso, l’annuncio cambia più rapidamente il potere negoziale nel campo dell’inferenza che l’intero mercato del calcolo AI. OpenAI ha dimostrato una possibile alternativa per una parte dei propri carichi, ma non ha interrotto la dipendenza da Nvidia.
Cosa può significare per Nvidia e per il mercato dei chip AI
Gli analisti vedono Jalapeño come una prova del fatto che un ASIC progettato da un grande operatore tecnologico può eguagliare o superare sistemi della classe Blackwell nell’efficienza dell’inferenza. Questo potrebbe aumentare la pressione su Nvidia proprio nel segmento dell’inferenza, mentre i grandi operatori cercano di ridurre il costo del servizio e la dipendenza da un singolo fornitore. 17
32
OpenAI non è l’unica azienda a sviluppare silicio personalizzato: tra i grandi gruppi citati in questo percorso figurano anche Google, AWS e Meta. Il settore si sta quindi muovendo verso infrastrutture sempre più adattate a carichi di lavoro specifici. 5
Lo scenario più plausibile non è il collasso immediato delle GPU, ma un mercato più segmentato:
- Gli ASIC personalizzati possono diventare interessanti per carichi di inferenza stabili, ad alto volume e controllati da grandi piattaforme.
- Le GPU Nvidia dovrebbero restare preziose per addestramento, sperimentazione rapida, carichi eterogenei e tutti gli scenari in cui flessibilità ed ecosistema software contano più dell’efficienza su un compito specifico.
5
20
- Le aziende che sviluppano chip propri possono ottenere maggiore potere negoziale negli acquisti futuri di GPU, spostando l’inferenza prevedibile sul proprio hardware.
La domanda decisiva è se i vantaggi dichiarati da Jalapeño resisteranno a confronti più omogenei, a modelli diversi e a una distribuzione su scala produttiva. Per ora, le prove sostengono una conclusione più circoscritta: il silicio personalizzato può essere altamente competitivo con Blackwell in alcuni carichi di inferenza, mentre Nvidia resta profondamente integrata nel resto dello stack di calcolo AI.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Il chip Jalapeño di OpenAI supera Nvidia Blackwell nell’inferenza, ma non in tutto"?
Nei test su tre modelli linguistici, OpenAI ha misurato con Jalapeño dall’1,5 all’1,9× di lavoro AI in più per watt e una latenza end to end inferiore di 1,7–3,6× rispetto ai sistemi Nvidia GB200 e GB300.
What are the key points to validate first?
Nei test su tre modelli linguistici, OpenAI ha misurato con Jalapeño dall’1,5 all’1,9× di lavoro AI in più per watt e una latenza end to end inferiore di 1,7–3,6× rispetto ai sistemi Nvidia GB200 e GB300. Jalapeño è un ASIC progettato per l’inferenza, non un sostituto generale delle GPU: ha una potenza nominale di 700 watt e, nei test riportati, ha mantenuto un consumo sostenuto pari o inferiore a 550 watt.
What should I do next in practice?
Il confronto non è del tutto omogeneo: Jalapeño utilizza memoria HBM4, assente nei sistemi Blackwell testati.