Snowflake aposta em roteamento dinâmico para reduzir custos de IA sem abrir mão da qualidade

Na configuração automática, o roteador deve selecionar o modelo aprovado mais barato que consiga concluir a tarefa com confiança. Solicitações rotineiras, repetitivas ou de menor complexidade podem ser encaminhadas para modelos abertos mais eficientes. Já tarefas que exigem raciocínio avançado podem seguir para modelos de fronteira de empresas como Anthropic, OpenAI e Google.

A decisão não precisa ser totalmente automática. As organizações poderão fixar um modelo específico ou limitar a lista de modelos elegíveis. O recurso também deverá considerar requisitos de residência de dados e políticas de governança, além de registrar qual modelo foi escolhido para cada solicitação. Isso torna a novidade relevante tanto para o controle de gastos quanto para empresas que precisam auditar o processo de seleção.

Como o roteamento deve funcionar

A Snowflake descreveu dois mecanismos principais para decidir quando uma tarefa precisa de mais capacidade de modelo.

O padrão advisor

No chamado padrão advisor, um modelo menor tenta realizar a tarefa primeiro. Se não conseguir concluí-la adequadamente, pode chamar um modelo maior como ferramenta e continuar o trabalho a partir daí. A ideia é evitar o custo de um modelo de fronteira em solicitações simples, sem eliminar uma rota de escalonamento para casos mais difíceis.

Roteamento baseado em classificador

Um classificador separado pode analisar padrões de consultas históricas para identificar solicitações diretas e encaminhá-las a modelos mais simples. Na prática, isso cria uma segunda abordagem: o sistema pode começar com um modelo pequeno e aumentar a capacidade quando necessário ou classificar a solicitação antes de escolher o modelo.

O ponto operacional mais importante é avaliar o resultado completo da tarefa, e não apenas verificar se um modelo mais barato foi selecionado. Uma primeira tentativa malsucedida, um escalonamento ou uma nova tentativa pode aumentar o consumo de tokens, a latência e a complexidade de engenharia.

Resultados de eficiência divulgados pela Snowflake

A Snowflake informou que obteve até 3 vezes mais eficiência em tokens em um fluxo interno de pipeline de dbt quando o roteamento dinâmico entregou qualidade comparável à do uso exclusivo de modelos de fronteira. Em um teste separado com tarefas de programação, a empresa afirmou que as equipes de engenharia mantiveram o volume de pull requests usando aproximadamente 25% menos tokens.

Esses números devem ser entendidos como avaliações internas divulgadas pela própria Snowflake, e não como resultados de clientes validados de forma independente. O desempenho também pode variar bastante conforme o tipo de trabalho. Um roteador que funciona bem em tarefas repetitivas de engenharia de dados ou programação pode apresentar resultados diferentes em pesquisas com contexto longo, uso complexo de ferramentas ou decisões de alto risco.

Por isso, a métrica mais útil não é simplesmente “tokens economizados”. O ideal é medir o custo de uma tarefa concluída e aceita, junto com qualidade, latência, confiabilidade e necessidade de retrabalho humano.

DeepSeek e GLM ampliam o conjunto de modelos

A Snowflake também está ampliando o grupo de modelos disponíveis no Cortex AI com o DeepSeek-V4-Flash 0731 e o GLM-5.3, da Z.ai. O DeepSeek-V4-Flash 0731 foi anunciado para a prévia privada, inclusive no CoCo. O GLM-5.3 foi descrito como “chegando em breve” à prévia privada, sujeito à disponibilidade.

A empresa informou que o DeepSeek-V4-Flash obteve 74,4% no ADE-bench em um teste interno usando o CoCo como estrutura para o agente. Também citou um teste anterior com o GLM-5.2, não com o GLM-5.3, que teria alcançado 66% e apresentado o menor consumo de tokens nesse benchmark. O resultado do GLM-5.2 não deve ser interpretado como uma avaliação publicada do GLM-5.3.

A inclusão de mais modelos abertos fortalece a lógica do roteamento: quanto maior o conjunto de opções, mais oportunidades o sistema tem de combinar os requisitos da tarefa com um perfil adequado de custo e desempenho. Para os clientes, isso também amplia a escolha além dos provedores de modelos de fronteira mais conhecidos.

A aposta na fronteira de dados governados

A principal diferenciação reivindicada pela Snowflake é ligar o acesso aos modelos e o roteamento ao ambiente de dados governado que a plataforma já oferece. A empresa afirma que disponibiliza os novos modelos abertos diretamente, em vez de apenas funcionar como uma camada de proxy para uma API de terceiros. Segundo a Snowflake, dados, capacidade de inferência, pesos dos modelos e orquestração dos agentes operam dentro de seu perímetro de segurança, com controles existentes de acesso baseado em funções e auditoria.

Essa é uma afirmação arquitetural da Snowflake, não uma garantia universal para qualquer implantação. As empresas ainda precisam verificar detalhes específicos do próprio ambiente, incluindo a região de implantação, requisitos de residência de dados, termos contratuais, comportamento dos logs e modelos efetivamente autorizados para cada carga de trabalho.

O argumento é especialmente relevante para organizações que já mantêm dados analíticos governados e aplicações de IA na Snowflake. Nesse cenário, o benefício não seria apenas escolher um modelo mais barato: a seleção poderia fazer parte da mesma estrutura de controle e auditoria usada para administrar o acesso aos dados.

Como a proposta se encaixa no mercado

O roteamento de modelos não é exclusividade da Snowflake. O Amazon Bedrock, por exemplo, oferece o Intelligent Prompt Routing por meio de um endpoint serverless que encaminha solicitações entre modelos fundamentais da mesma família, considerando a qualidade prevista da resposta e o custo.

A comparação mais importante, portanto, não é saber apenas quais plataformas conseguem escolher um modelo mais barato. É entender onde ficam a política de governança, a decisão de roteamento, a execução do modelo, o acesso aos dados e a visibilidade da cobrança.

A Snowflake enfatiza uma fronteira de dados governada e integrada à plataforma. Gateways mais neutros podem priorizar portabilidade entre provedores, flexibilidade multinuvem, failover ou gerenciamento de tráfego. São prioridades arquiteturais diferentes, e não uma simples disputa sobre qual produto “tem roteamento”.

Para quem está avaliando a tecnologia, a escolha tende a depender do ambiente operacional:

• Prefira uma abordagem integrada quando os dados governados, os controles de acesso, a orquestração de agentes e o uso de modelos já estiverem concentrados em uma única plataforma de dados.
• Considere um gateway mais neutro quando a portabilidade entre provedores, a lógica de roteamento independente ou a flexibilidade multinuvem forem mais importantes que a integração profunda.
• Valide o conjunto de modelos disponível em vez de presumir que todos os gateways oferecem os mesmos provedores, famílias, regiões ou tipos de implantação.

O que medir antes de aceitar a promessa de economia

Uma avaliação séria deve comparar o roteamento automático com uma configuração fixa baseada em um modelo de fronteira, usando cargas de trabalho representativas da produção. Entre os indicadores estão:

• Custo total por tarefa concluída com sucesso, e não apenas o preço por token do modelo escolhido.
• Eventuais cobranças do roteador ou do classificador.
• Chamadas adicionais geradas por escalonamento do padrão advisor, fallback, retries ou falhas na execução de ferramentas.
• Latência de ponta a ponta, incluindo roteamento, recuperação de dados, montagem do contexto e chamadas de segunda etapa.
• Taxa de sucesso e qualidade por categoria de tarefa.
• Alucinações, violações de políticas e regressões introduzidas por modelos menores.
• Custos de revisão humana, correção, escalonamento e retrabalho.
• Restrições de residência de dados, observabilidade, transferência de dados e dependência do fornecedor.

A Snowflake diz que não cobra separadamente pela decisão de roteamento e que a cobrança é baseada no consumo de tokens. Ainda assim, escalonamentos e novas tentativas podem elevar o uso total e a latência. O critério correto é saber se o roteamento reduz o custo de um resultado aceito, preservando os requisitos de qualidade e governança da aplicação.

O resultado final

O anúncio combina duas iniciativas: a seleção dinâmica entre modelos aprovados e a ampliação do catálogo disponível no Cortex AI. O recurso de roteamento deve chegar primeiro à prévia privada. O DeepSeek-V4-Flash 0731 já foi anunciado para essa fase, enquanto o GLM-5.3 está previsto para uma futura prévia, dependendo da disponibilidade.

A força estratégica da proposta não está apenas na ideia — já conhecida no mercado — de encaminhar tarefas simples para modelos mais baratos. O diferencial que a Snowflake tenta estabelecer é colocar essa decisão dentro de sua fronteira de dados governados e segurança.

O ganho de até 3 vezes na eficiência de tokens é um sinal promissor, mas não substitui testes com as cargas de trabalho reais de cada empresa. A decisão deve considerar custo total, qualidade, latência, confiabilidade, governança e correções humanas — e não a redução de tokens isoladamente.