A crise de computação da IA na China migra do treinamento para a inferência

Um token não tem sempre o mesmo valor

A contagem de tokens é um indicador útil de demanda, mas não representa cargas de trabalho idênticas. Uma resposta simples e barata pode ser produzida em hardware menos potente. Já uma resposta de alta qualidade, gerada por um modelo mais forte, com uma cadeia de raciocínio mais longa ou várias chamadas a ferramentas, exige mais computação — e pode ter muito mais valor para o cliente.

É por isso que o aumento do número total de tokens pode esconder uma escassez ainda maior de inferência premium. O mercado pode produzir mais tokens no conjunto e, ao mesmo tempo, enfrentar uma falta mais aguda dos equipamentos necessários para gerar resultados confiáveis em tarefas complexas. O foco em capacidade para produzir tokens de alta qualidade e em sistemas que combinam diferentes tipos de computação reflete essa distinção.

A demanda cresceu muito mais rápido que a capacidade

As chamadas médias diárias de tokens na China ultrapassaram 140 trilhões em março de 2026, ante cerca de 100 bilhões no início de 2024 — um aumento superior a mil vezes, segundo números divulgados pela Administração Nacional de Dados da China.

O salto indica uma mudança na forma de usar a IA. Os modelos estão deixando de ser ferramentas para experimentação e prompts isolados e passando a integrar assistentes, softwares corporativos e agentes que executam fluxos de trabalho reais. Com isso, a inferência se tornou um dos principais motores do consumo de computação, e não apenas uma etapa secundária após o treinamento.

Por que otimizar o software é a alavanca mais rápida

Adicionar processadores de ponta é difícil quando controles de exportação restringem o acesso aos produtos avançados da NVIDIA, a oferta é limitada e os ecossistemas de hardware são caros de substituir. Os desenvolvedores chineses também enfrentam custos elevados de transição, pois modelos, ferramentas e processos existentes estão profundamente vinculados a plataformas de software já estabelecidas.

A otimização de software não cria novos chips, mas pode aumentar a quantidade de trabalho útil extraída de cada processador disponível. Entre as estratégias estão:

• Roteamento de cargas: enviar solicitações simples para aceleradores mais baratos ou domésticos e reservar as GPUs da NVIDIA para tarefas complexas.
• Atendimento mais eficiente: aprimorar o agrupamento e o agendamento de pedidos para reduzir o tempo em que o hardware fica ocioso.
• Implantação orientada por recursos: ajustar o tamanho do modelo, o comprimento do contexto e a estratégia de resposta ao valor e à dificuldade de cada solicitação.
• Infraestrutura heterogênea: integrar arquiteturas diferentes de chips, em vez de exigir que todos os trabalhos rodem em uma única plataforma.

Essas medidas funcionam como uma ponte entre a demanda crescente e a oferta limitada. Elas não substituem completamente o hardware de fronteira, sobretudo quando tarefas sensíveis à qualidade continuam dependentes de um conjunto menor de processadores.

O aperto comercial

O problema é mais difícil de resolver porque os preços da inferência também estão sob pressão. Analistas do Jefferies estimaram que os modelos chineses custam, em média, cerca de um sexto do preço por token cobrado por empresas americanas.

Preços baixos podem acelerar a adoção, mas também limitam a receita disponível para financiar a computação premium, que é escassa. Ao mesmo tempo, assistentes de programação e produtos baseados em agentes podem consumir muito mais recursos do que um chat simples.

As empresas chinesas de IA enfrentam, portanto, uma combinação complicada: a demanda cresce rapidamente, os clientes esperam acesso barato e a capacidade de inferência mais avançada não pode ser ampliada ou substituída com facilidade.

Essa tensão já apareceu na disponibilidade dos serviços. Um relatório sobre o mercado descreveu grandes desenvolvedores chineses de modelos e provedores de nuvem reduzindo a velocidade dos serviços, racionando o acesso ou elevando preços quando a demanda superou os recursos computacionais disponíveis — especialmente no caso de assistentes de programação que exigem muito processamento.

O que isso significa para a IA chinesa

O desafio da infraestrutura de IA na China não é simplesmente uma falta de chips. Trata-se da escassez da combinação certa de processadores avançados, software compatível e capacidade economicamente viável para a inferência de alto valor.

O hardware doméstico pode absorver uma parcela maior das cargas à medida que o software evolui e os serviços são projetados de acordo com seus pontos fortes. Mas as evidências atuais apontam para uma estratégia de transição: otimizar cada camada da inferência, usar chips chineses onde eles são eficazes e preservar a capacidade limitada da NVIDIA para os trabalhos mais difíceis.

Isso pode prolongar a vida útil dos recursos existentes, mas o crescimento sustentado da IA baseada em agentes dependerá, em última instância, de a China conseguir expandir tanto sua oferta de hardware quanto o ecossistema de software que torna diferentes processadores práticos de usar.