La optimización de software específica que OpenAI ha desarrollado para reducir los costes de inferencia en más de la mitad es el enrutamiento multi-modelo. Esta técnica dirige automáticamente las consultas sencillas a modelos más pequeños y baratos, mientras reserva los modelos más potentes (y caros) solo para las solicitudes complejas .
Las guías del sector describen el enfoque híbrido como una reducción de costes del 30-75% en la capa del modelo mediante el uso de cuantificación, destilación y ajuste de tamaño, combinado con optimizaciones en tiempo de ejecución como el procesamiento por lotes, la decodificación especulativa y la gestión de la caché KV, que pueden generar ganancias de rendimiento del 40-80% . OpenAI también ha puesto esto en práctica ofreciendo recortes de precios del 50% para la inferencia diferida a través de su API Batch: si los clientes aceptan esperar hasta 24 horas por los resultados
.
Más allá del enrutamiento, los ingenieros de OpenAI han contado a The Information que las técnicas son tan potentes que en un momento dado sirvieron ChatGPT a usuarios no registrados con solo un par de cientos de GPU de Nvidia .
El 24 de junio de 2026, OpenAI y Broadcom presentaron 'Jalapeño', el primer chip de inferencia diseñado a medida por OpenAI . Datos clave:
OpenAI describe el chip como "el primer bloque de construcción de una hoja de ruta de silicio personalizado de varios años" para construir su propia pila computacional y hacer frente al poder de fijación de precios de NVIDIA . El chip está integrado verticalmente: OpenAI lo utilizará exclusivamente para sus propias cargas de trabajo de inferencia y no se venderá a clientes externos
.
Cifras clave de los documentos para accionistas del primer trimestre de 2026:
El margen operativo de la empresa fue de aproximadamente -122%, lo que significa que perdió unos 1,22 dólares por cada dólar ganado . En 2025 en su conjunto, OpenAI registró aproximadamente 38 500 millones de dólares en pérdidas sobre 34 000 millones en gastos
.
Los movimientos de reducción de costes de OpenAI se enmarcan en una guerra de precios más amplia que está reconfigurando la economía de la IA:
La combinación de optimizaciones de software y hardware posiciona a OpenAI para potencialmente reducir a la mitad sus costes de inferencia incluso mientras escala. Pero la empresa no actúa en el vacío. El colapso generalizado de los precios de inferencia, impulsado por competidores, alternativas de código abierto y hardware especializado, significa que el poder de fijación de precios se está erosionando en toda la industria .
Para las empresas, esto es una buena noticia: el coste efectivo de ejecutar cargas de trabajo de IA está cayendo más rápido de lo que crecen las capacidades. La API Batch de OpenAI ya ofrece descuentos del 50% para cargas de trabajo diferidas, mientras que el enrutamiento multi-modelo puede reducir los costes entre un 40% y un 60% sin sacrificar la calidad . La cuestión es si algún proveedor puede mantener precios superiores en un mercado donde los modelos chinos de código abierto ofrecen capacidades de nivel fronterizo a una fracción del coste
.