Modelos de decisão prometem escolhas rápidas para agentes de IA — mas quem leva vantagem?

Modelos de decisão foram feitos para resolver perguntas com um conjunto limitado de respostas — por exemplo, “qual ferramenta o agente deve usar?”. Em vez de escrever uma explicação palavra por palavra, selecionam uma das opções permitidas e podem retornar uma pontuação ou probabilidade. Isso pode ser útil em tarefas frequentes e sensíveis à latência, como classificar solicitações ou encaminhá-las ao setor adequado. Mas uma probabilidade alta não garante que a escolha esteja correta. 1112

Quatro opções, propostas diferentes

• Jev, da TypeSafe AI: modelo hospedado voltado a escolhas tipadas, pontuações e probabilidades. A latência divulgada fica entre aproximadamente 70 e 500 milissegundos. O preço publicado é de US$ 0,042 por milhão de tokens de entrada, sem cobrança por tokens de saída. Pode atender a tarefas repetidas, como encaminhamento de solicitações. A TypeSafe não revelou detalhes suficientes da arquitetura nem disponibilizou os pesos do Jev para que terceiros expliquem de forma independente sua vantagem de desempenho; as principais comparações de preço e performance ainda são divulgadas pela própria empresa. 3567

• Decisions API, da OpenAI: permite enviar texto ou imagens, uma pergunta e um conjunto finito de respostas para tarefas como classificação, roteamento e escolha da próxima ação de um agente. O serviço está em prévia limitada. Coberturas do lançamento relatam cerca de 150 milissegundos por decisão, mas a OpenAI ainda não publicou um benchmark diretamente comparável ao do Jev nem o preço da API. 1234

• Strands Decider 2B, da AWS: modelo de código aberto com cerca de 2 bilhões de parâmetros, projetado para escolhas limitadas, probabilidades de “sim” ou “não” e pontuações. Pode ser executado localmente, e a receita de treinamento divulgada permite experimentação e personalização. Isso pode ser interessante para equipes que não querem depender de uma API hospedada. A latência mediana relatada, de aproximadamente 106 a 115 milissegundos, depende do hardware e do teste; os pesos são gratuitos, mas executar o modelo ainda exige recursos computacionais. 1181

• Clef e Clef-flash, da Cloudflare: alternativas com pesos abertos, disponíveis para execução própria e no Workers AI. O Clef prioriza decisões de maior qualidade; o Clef-flash, menor latência. Os preços divulgados para uso hospedado são US$ 0,24 e US$ 0,09 por milhão de tokens de entrada, respectivamente. Comparações associadas à Cloudflare indicam mediana próxima de 39 milissegundos para o Clef-flash, mas esse número não vem de um teste de velocidade equivalente ao do Jev. 135

O que isso significa para a TypeSafe

A chegada de concorrentes indica que há interesse em modelos voltados a decisões de agentes, mas também reduz a exclusividade do Jev. A OpenAI oferece uma alternativa hospedada; AWS e Cloudflare disponibilizam opções de pesos abertos; e a Cloudflare também oferece execução hospedada. Para se diferenciar, a TypeSafe precisará demonstrar qualidade de decisão e custo total em tarefas reais dos clientes — não apenas se apoiar em um número de latência ou na ideia de ter chegado primeiro.

A imprensa relata que a TypeSafe captou US$ 40 milhões. Com as informações disponíveis aqui, porém, não há base suficiente para afirmar uma avaliação confiável da empresa nem para confirmar, por meio de testes independentes e equivalentes, que a vantagem de desempenho atribuída ao Jev se mantém. 41115