A otimização de software desenvolvida pela OpenAI para reduzir os custos de inferência em mais da metade é o roteamento multi-modelo. A técnica encaminha automaticamente perguntas simples para modelos menores e mais baratos, reservando os modelos mais poderosos (e caros) apenas para solicitações complexas .
Guias da indústria descrevem essa abordagem híbrida como capaz de gerar uma redução de 30% a 75% nos custos na camada de modelo, usando quantização, destilação e dimensionamento correto. Combinada com otimizações de runtime (como processamento em lote, decodificação especulativa e gerenciamento de cache KV), os ganhos de throughput podem chegar a 40% a 80% .
Na prática, a OpenAI já oferece descontos de 50% para inferência adiada via sua Batch API: se o cliente aceitar esperar até 24 horas pelo resultado, paga metade . Engenheiros da empresa chegaram a afirmar ao The Information que, em um determinado momento, conseguiram atender todos os usuários não logados do ChatGPT com apenas algumas centenas de GPUs da Nvidia
.
Em 24 de junho de 2026, a OpenAI e a Broadcom apresentaram o Jalapeño, o primeiro chip de inferência sob medida da OpenAI . Os detalhes são impressionantes:
A OpenAI descreve o chip como "o primeiro bloco de construção de um roteiro de silício customizado de vários anos" para construir sua própria pilha computacional e enfrentar o poder de precificação da Nvidia . O chip é verticalmente integrado — a OpenAI o usará exclusivamente para suas próprias cargas de trabalho de inferência, sem vendê-lo a clientes externos
.
Os principais números dos documentos do 1º trimestre de 2026:
A margem operacional da empresa foi de aproximadamente -122%, ou seja, perdeu cerca de US$ 1,22 para cada dólar faturado . No acumulado de 2025, a OpenAI registrou prejuízos de aproximadamente US$ 38,5 bilhões, com gastos totais de US$ 34 bilhões
.
Os cortes de custos da OpenAI se encaixam em uma guerra de preços que está remodelando a economia da IA em todo o setor:
A combinação de otimizações de software e hardware posiciona a OpenAI para potencialmente reduzir pela metade seus custos de inferência, mesmo enquanto escala. Mas a empresa não age no vácuo. O colapso generalizado dos preços de inferência — impulsionado por concorrentes, alternativas open-source e hardware especializado — significa que o poder de precificação está se deteriorando em toda a indústria .
Para as empresas, a notícia é boa: o custo efetivo de rodar cargas de trabalho de IA está caindo mais rápido do que as capacidades estão crescendo. A Batch API da OpenAI já oferece 50% de desconto para cargas de trabalho adiadas, enquanto o roteamento multi-modelo pode reduzir custos em 40% a 60% sem sacrificar a qualidade . A pergunta que fica é se algum fornecedor conseguirá manter preços premium num mercado onde modelos open-source chineses oferecem capacidade de fronteira a uma fração do custo
.