Em 20 de outubro de 2026, a DeepSeek abriu o código de parte do software que usa para executar seus modelos. O DeepInfer é o mecanismo de inferência que, segundo a empresa, alimenta seus serviços de produção; o componente complementar deepseek-recipe cuida do processamento de solicitações e tokens. O principal limite para quem pensa em adotar a tecnologia: a versão pública oferece inferência em modo offline, não uma substituição pronta para a API hospedada da DeepSeek.
3
4
33
O que fazem o DeepInfer e o deepseek-recipe
O DeepInfer é um framework de inferência — o software que executa um modelo já treinado para gerar respostas. A versão inicial dá suporte ao DeepSeek-V4.1-Flash e é distribuída sob a licença Apache 2.0, segundo a cobertura do lançamento.
4
5
Entre os recursos listados estão inferência distribuída, kernels otimizados, decodificação especulativa, agendamento assíncrono, inferência invariável ao tamanho do lote e saídas estruturadas.
33
34 Esse último recurso permite restringir as respostas do modelo a formatos como um esquema JSON, uma expressão regular ou uma gramática EBNF.
29
30
O deepseek-recipe é o componente complementar que converte solicitações em entradas para o modelo e transforma as saídas em respostas. Há relatos de suporte a formatos de requisição de API conhecidos, mas isso, por si só, não comprova compatibilidade completa com todos os comportamentos da API hospedada da DeepSeek.
3
9
Modelos e hardware compatíveis
No lançamento, o DeepInfer lista suporte ao DeepSeek-V4.1-Flash e a duas famílias de aceleradores: GPUs NVIDIA SM100 e NPUs Huawei Ascend 950.
3
5 Essa especificação não confirma compatibilidade com todas as GPUs da NVIDIA ou com outros aceleradores da Huawei; as fontes disponíveis também não detalham variantes específicas de placas.
O que dizem os números de desempenho
A DeepSeek apresenta o DeepInfer como um framework de alto desempenho. Segundo a Bloomberg, o software pode tornar os modelos da empresa mais baratos e fáceis de operar para negócios, ao ajudar a aproveitar melhor os recursos computacionais.
33
45 São benefícios potenciais, não uma garantia de redução de custos, consumo de energia ou latência, nem de uma taxa específica de processamento em qualquer ambiente.
A cifra de 155 trilhões de tokens por dia por cluster, atribuída à DeepSeek, foi reproduzida em reportagens. Mas as fontes disponíveis não a validam de forma independente nem trazem detalhes suficientes para compará-la diretamente com a de outros sistemas.
1
5 O The Next Web também informa que os números de velocidade divulgados pela empresa ainda não foram testados por terceiros.
49
Por que não é um serviço online pronto
A versão pública oferece inferência offline. A cobertura da documentação de implantação também aponta componentes de operação que não vêm incluídos: gerenciamento de cache KV, separação entre o processamento inicial do prompt e a geração de tokens — chamada de desagregação prefill/decode — e balanceamento de carga entre réplicas.
4
7
Na prática, equipes que queiram oferecer um serviço online para vários usuários precisam montar e operar essa infraestrutura adicional. Por isso, o lançamento tende a ser mais útil para organizações com experiência em engenharia de inferência do que para quem procura uma solução de hospedagem pronta. A economia de operar o modelo por conta própria dependerá do hardware e do trabalho operacional necessários; o lançamento, isoladamente, não permite calcular esses custos.
O que empresas devem levar em conta
O DeepInfer abre o mecanismo de inferência que a DeepSeek diz usar em produção para o modelo V4.1-Flash, enquanto o deepseek-recipe acrescenta uma camada de processamento de solicitações e respostas. Para equipes de infraestrutura, são peças que podem facilitar a operação própria do modelo. Mas é importante separar os recursos anunciados de resultados medidos por terceiros — e considerar o trabalho extra para transformar inferência offline em um serviço online confiável.
3
4
33
49