RespuestasPublicado19 fuentes
Jalapeño, el chip de OpenAI que busca acelerar la respuesta de la IA
OpenAI afirma que Jalapeño logró entre 1,5 y 1,9 veces más trabajo de IA por vatio y entre 1,7 y 3,6 veces menos latencia de extremo a extremo que los sistemas Nvidia GB200 y GB300 comparados en InferenceX. En DeepSeek R1, la compañía registró unos 700 tokens por segundo por usuario en Jalapeño, frente a 169 en GB30...
Publicado porEditado con GPT-5.6 LunaImágenes generadas con GPT Image 1.5
Respuesta de investigación
Conclusiones clave
- OpenAI afirma que Jalapeño logró entre 1,5 y 1,9 veces más trabajo de IA por vatio y entre 1,7 y 3,6 veces menos latencia de extremo a extremo que los sistemas Nvidia GB200 y GB300 comparados en InferenceX.
- En DeepSeek R1, la compañía registró unos 700 tokens por segundo por usuario en Jalapeño, frente a 169 en GB300, al medir el intervalo mínimo entre tokens.
- Jalapeño está diseñado para inferencia, no para entrenamiento. OpenAI prevé un despliegue interno limitado a finales de 2026 y más capacidad en 2027, sin ventas externas por ahora.
Prompt de IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did OpenAI’s custom Jalapeño inference chip, co-developed with Broadcom, demonstrate in its latest benchmarks against Nvidia’s GB200 an. Article summary: OpenAI says Jalapeño, its first Broadcom co-developed custom accelerator, beats the compared Nvidia GB200/GB300 rack systems on the tested inference workloads in both energy efficiency and response speed. These are early. Topic tags: general, documentation, general web, education, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text,
OpenAI asegura que su primer acelerador de IA diseñado a medida, Jalapeño, obtuvo resultados especialmente llamativos en sus últimas pruebas de inferencia: más trabajo de IA por vatio, menor latencia de extremo a extremo y velocidades interactivas muy elevadas frente a sistemas Nvidia GB200 y GB300 usados como referencia. La compañía dice que las mejoras aparecieron con GPT‑OSS 120B, DeepSeek R1 y Kimi K2.5 1T. 3
4
La precisión importante es esta: se trata de resultados iniciales comunicados por la propia OpenAI en una configuración concreta de InferenceX, no de una comparación independiente y universal de todas las cargas de trabajo de IA ni de las plataformas actuales y futuras de Nvidia. 4
7
Qué muestran las pruebas de Jalapeño
En los tres modelos evaluados, OpenAI reportó entre 1,5 y 1,9 veces más trabajo de IA por vatio en el rendimiento máximo y entre 1,7 y 3,6 veces menos latencia de extremo a extremo que los sistemas de comparación. En cargas muy interactivas, la compañía comunicó mejoras de entre 2,1 y 4,1 veces. 3
Los resultados más claros por modelo fueron los siguientes:
GPT‑OSS 120B frente a Nvidia GB200: Jalapeño alcanzó, según OpenAI, 85.448 unidades de rendimiento mixto máximo por kilovatio, frente a 44.960 en GB200. La latencia de extremo a extremo fue de 1,03 segundos, frente a 1,80 segundos. En el intervalo mínimo entre tokens, registró 0,69 milisegundos, equivalente a unos 1.459 tokens por segundo por usuario, frente a 535 en GB200.
4
DeepSeek R1 MXFP4 frente a Nvidia GB300: Jalapeño obtuvo 19.641 unidades de rendimiento mixto máximo por kilovatio, frente a 11.781 en GB300. La latencia de extremo a extremo fue de 1,65 segundos, frente a 5,99 segundos. En el intervalo mínimo entre tokens, OpenAI calculó unos 700 tokens por segundo por usuario, frente a 169 en GB300.
6
Kimi K2.5 MXFP4 frente a Nvidia GB300: OpenAI informó de un 1,5 veces más rendimiento máximo por kilovatio, una latencia de extremo a extremo 3,4 veces menor y unos 694 tokens por segundo por usuario, frente a 182 en GB300.
Los “tokens por segundo por usuario” miden la interactividad: indican con qué rapidez una solicitud individual recibe los tokens generados, no solo cuántos tokens puede producir un rack cuando atiende muchas solicitudes en paralelo. La diferencia importa en chats, programación y aplicaciones basadas en agentes, donde la sensación de rapidez forma parte de la experiencia del producto.
Por qué un chip especializado puede ser más rápido
Jalapeño es un acelerador diseñado específicamente para la inferencia de modelos de lenguaje grandes, en lugar de una GPU de propósito general adaptada para servir cargas de entrenamiento e inferencia. OpenAI diseñó la arquitectura; Broadcom se encargó de la implementación del silicio y las redes; y Celestica aportó la integración de placas, racks y sistemas. 17
32
El diseño a escala de rack utiliza un gran dominio de red conectado para intentar mantener una carga de trabajo dentro de un mismo sistema. OpenAI afirma que coloca y conserva localmente, siempre que es posible, el estado del modelo —incluida la caché KV—, con el objetivo de reducir el movimiento de datos entre chips y las pausas de comunicación que pueden ralentizar la generación. 4
6
El sistema tampoco separa prefilling y decodificación en grupos de recursos fijos. OpenAI describe el cómputo, la memoria y las redes como recursos intercambiables entre ambas fases de la inferencia. El prefilling procesa el mensaje de entrada y exige relativamente más capacidad de cálculo; la decodificación genera la respuesta token a token y suele estar más limitada por el movimiento de datos y el ancho de banda de memoria. 4
6
Los detalles técnicos públicos siguen siendo incompletos. Una descripción técnica habla de un sistema de 128 chips con aproximadamente 1,7 exaflops y 27 TB de HBM, pero el anuncio de OpenAI no ofrece una lista completa de componentes del rack ni suficiente información para reproducir de forma independiente cada resultado. 4
OpenAI dice que la IA también ayudó a diseñar el chip
OpenAI asegura que Jalapeño pasó del diseño inicial al tape-out —la entrega del diseño final para su fabricación— en nueve meses, un plazo excepcionalmente breve para un acelerador personalizado avanzado. 17
21
La compañía también afirma que sus modelos ayudaron en la exploración del diseño, la implementación, las mediciones, la verificación, la optimización de circuitos aritméticos y la programación. OpenAI informó de que Codex, junto con GPT‑Astra, permitió llevar tres modelos de pesos abiertos que no estaban previstos inicialmente a un alto nivel de rendimiento en dos meses. En determinados bloques de atención y de mezcla de expertos de GPT‑OSS, la empresa dijo que las implementaciones generadas con IA fueron entre 1,5 y 1,8 veces más rápidas que las implementaciones anteriores escritas por humanos. Estas cifras corresponden a bloques concretos, no a resultados completos de servicio de modelos. 4
Los límites de la comparación
La ventaja destacada de Jalapeño debe interpretarse dentro de su contexto.
Es un acelerador de inferencia, no una GPU de entrenamiento
Jalapeño está pensado para ejecutar modelos ya entrenados. No está diseñado para entrenarlos, por lo que OpenAI prevé seguir utilizando aceleradores de Nvidia, AMD y otros proveedores para el entrenamiento y para parte de su capacidad de inferencia. 4
6
Por tanto, Jalapeño es una incorporación especializada a la infraestructura de OpenAI, no un reemplazo completo de las plataformas GPU que la compañía emplea en sus distintas cargas de trabajo.
La prueba utilizó un perfil de servicio concreto
La comparación empleó InferenceX, el benchmark público de SemiAnalysis, con solicitudes nominales de un solo turno que contenían 8.000 tokens de entrada y 1.000 tokens de salida. Midió el servicio completo de cada solicitud, igualó los sistemas en experiencia de usuario y normalizó los resultados utilizando las cifras publicadas de consumo de los chips. 4
7
SemiAnalysis afirmó que presenció las ejecuciones en el laboratorio de OpenAI, pero no ejecutó por sí misma el conjunto completo de pruebas. También advirtió que la configuración no evalúa cargas de agentes con contextos más largos o múltiples turnos, enrutamiento, almacenamiento en caché de prefijos, gestión de caché ni descarga de tareas a otros sistemas. Estas decisiones de software y servicio pueden cambiar de forma considerable el rendimiento en producción. 6
El cálculo de energía influye en el resultado por vatio
OpenAI sitúa Jalapeño en 700 vatios de potencia del encapsulado y afirma que el consumo sostenido medido fue de 550 vatios o menos en las cargas probadas. Para GB200 y GB300 se utilizaron cifras modeladas de 1.200 y 1.400 vatios, respectivamente. Por ello, la ventaja por vatio depende en parte de la carga, del punto de medición y del método empleado para contabilizar la energía. 4
La comparación con Nvidia está condicionada por el momento
Las pruebas compararon Jalapeño con los mejores resultados disponibles entonces para GB200 o GB300, pero cuando el chip de OpenAI se despliegue a escala podrían existir sistemas Nvidia más nuevos y relevantes. Nvidia también publica resultados de DeepSeek R1 en GB300 mediante la metodología offline de MLPerf, que es diferente. Esas cifras no deben compararse directamente con los resultados interactivos de tokens por usuario de Jalapeño. 1
2
4
Despliegue y estrategia frente a la competencia
OpenAI planea desplegar Jalapeño de forma limitada en su propia infraestructura informática a finales de 2026, con una capacidad mayor prevista para 2027. La compañía dice que una segunda generación se encuentra en una fase avanzada de desarrollo y que una tercera ya empieza a tomar forma. 4
6
Por ahora, Jalapeño es una plataforma interna: no es un chip que otras empresas puedan comprar o alquilar. Richard Ho, responsable de hardware de OpenAI, afirmó que la demanda interna es demasiado alta como para plantearse ventas externas. 6
La estrategia consiste, por tanto, en complementar a Nvidia y AMD, no en sustituirlos de inmediato. OpenAI seguirá necesitando aceleradores de propósito general para entrenar modelos, y su infraestructura futura probablemente continuará siendo heterogénea. Google ya desarrolla TPU para entrenamiento e inferencia; Amazon y Microsoft han creado chips propios para IA; y Anthropic también ha descrito un proyecto para desarrollar silicio personalizado. 6
La conclusión práctica
Los primeros resultados de Jalapeño sugieren que un acelerador diseñado para una carga específica puede superar a sistemas de propósito general en las métricas más importantes para servir modelos de lenguaje de forma interactiva: eficiencia energética, tiempo total de respuesta y tokens entregados a cada usuario.
Pero las pruebas respaldan una conclusión más limitada que afirmar que “OpenAI ha derrotado a Nvidia”. La ventaja comunicada se aplica a determinados modelos, a una carga de trabajo específica de InferenceX y a configuraciones GB200 y GB300 concretas. Queda por comprobar cómo se comportará Jalapeño con tráfico de producción más amplio, agentes con contextos largos, otros entornos de software, cargas relacionadas con el entrenamiento y los sistemas Nvidia disponibles cuando su despliegue aumente.
Studio Global AI
Continúe su investigación
Esta página incluye una respuesta respaldada por fuentes que puede continuar dentro de Studio Global.
La gente también pregunta
¿Cuál es la respuesta corta a "Jalapeño, el chip de OpenAI que busca acelerar la respuesta de la IA"?
OpenAI afirma que Jalapeño logró entre 1,5 y 1,9 veces más trabajo de IA por vatio y entre 1,7 y 3,6 veces menos latencia de extremo a extremo que los sistemas Nvidia GB200 y GB300 comparados en InferenceX.
¿Cuáles son los puntos clave a validar primero?
OpenAI afirma que Jalapeño logró entre 1,5 y 1,9 veces más trabajo de IA por vatio y entre 1,7 y 3,6 veces menos latencia de extremo a extremo que los sistemas Nvidia GB200 y GB300 comparados en InferenceX. En DeepSeek R1, la compañía registró unos 700 tokens por segundo por usuario en Jalapeño, frente a 169 en GB300, al medir el intervalo mínimo entre tokens.
¿Qué debo hacer a continuación en la práctica?
Jalapeño está diseñado para inferencia, no para entrenamiento. OpenAI prevé un despliegue interno limitado a finales de 2026 y más capacidad en 2027, sin ventas externas por ahora.
Fuentes
openai.comJalapeño’s first results show industry-leading speed and efficiency in AI inference
techcrunch.comOpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show | TechCrunch