Les modèles de décision veulent aider les agents IA à choisir — sans rédiger une réponse

Un agent d’IA n’a pas toujours besoin d’une longue réponse. Pour savoir quelle équipe doit traiter une demande, quel outil appeler ou quelle action entreprendre, il lui faut parfois simplement choisir parmi quelques options possibles.

C’est le rôle des modèles de décision : ils répondent à une question délimitée en sélectionnant une issue autorisée, et peuvent y associer un score ou une probabilité. Plutôt que de générer une explication mot à mot, ils visent des choix rapides et structurés, adaptés aux décisions répétées dans un logiciel. Mais une probabilité de confiance n’est pas une garantie d’exactitude. 1112

Quatre approches pour faire choisir les agents

• Jev, de TypeSafe AI : ce modèle spécialisé est proposé sous forme de service hébergé. Il renvoie des choix typés, des scores et des probabilités. TypeSafe annonce une latence d’environ 70 à 500 ms, un prix de 0,042 dollar par million de jetons d’entrée et aucun coût pour les jetons de sortie. Jev vise notamment le routage et les décisions fréquentes intégrées aux applications. TypeSafe n’a pas publié ses poids ni suffisamment détaillé son architecture pour expliquer indépendamment ses performances ; ses principales comparaisons de coût et de rapidité restent des chiffres rapportés par l’entreprise. 3567

• Decisions API, d’OpenAI : l’API permet de fournir du texte ou des images, une question et un ensemble limité de réponses. Les applications peuvent s’en servir pour classer du contenu, orienter des demandes ou choisir la prochaine action d’un agent. Le service est en préversion limitée. Les comptes rendus de lancement évoquent environ 150 ms par décision, mais OpenAI n’a publié ni tarif ni comparaison directe avec Jev sur un même test. 1234

• Strands Decider 2B, d’AWS : ce modèle open source d’environ deux milliards de paramètres renvoie des choix, des probabilités oui/non et des scores. Les développeurs peuvent l’exécuter localement et consulter la recette d’entraînement publiée, ce qui se prête à l’expérimentation et à la personnalisation, ou à des déploiements qui ne veulent pas dépendre d’une API hébergée. Une latence médiane rapportée d’environ 106 à 115 ms dépend du matériel et du protocole de test. Les poids sont gratuits ; les ressources informatiques nécessaires pour faire tourner le modèle ne le sont pas forcément. 1181

• Clef et Clef-flash, de Cloudflare : ces modèles à poids ouverts sont disponibles en auto-hébergement et sur Workers AI, la plateforme d’inférence de Cloudflare. Clef privilégie la qualité des décisions, tandis que Clef-flash vise une latence plus faible. Les prix annoncés sur la plateforme sont respectivement de 0,24 et 0,09 dollar par million de jetons d’entrée. Des comparaisons associées à Cloudflare situent la latence médiane de Clef-flash autour de 39 ms ; ce chiffre ne constitue pas un test de vitesse comparable à celui de Jev. 135

Des chiffres à comparer avec prudence

Les latences rapportées varient selon le matériel, les tâches et les méthodes de mesure. Il en va de même pour les coûts : les modèles à poids ouverts donnent plus de liberté de déploiement, mais leur exécution a tout de même un coût en calcul. Quant à l’API d’OpenAI, son tarif n’est pas publié pendant la préversion. À ce stade, ces chiffres ne suffisent donc pas à désigner un vainqueur universel.

Pour TypeSafe AI, ces annonces confirment l’intérêt du marché, mais rendent son avance moins exclusive. OpenAI propose une option hébergée ; AWS met en avant un modèle que l’on peut exécuter soi-même ; Cloudflare combine poids ouverts et service hébergé. TypeSafe devra montrer, sur les tâches concrètes de ses clients, que Jev apporte un meilleur équilibre entre qualité des décisions et coût total — au-delà d’un chiffre de latence ou d’une revendication de pionnier. Des sources font état d’une levée de fonds de 40 millions de dollars, mais les éléments disponibles ici ne permettent pas d’établir une valorisation fiable ni de vérifier par des essais indépendants comparables l’avantage de performance revendiqué pour Jev. 41115