Ramp Router : comment fonctionne le service de routage des modèles d’IA

Ramp, jusqu’ici surtout connue pour ses outils de suivi et de gestion des dépenses professionnelles, s’attaque désormais à l’un des postes de coûts qui progressent le plus rapidement dans les entreprises : l’inférence d’IA. Son nouveau service, baptisé Router, fournit aux développeurs une API unique pour accéder à plusieurs modèles, les évaluer et y répartir le trafic selon la qualité recherchée, la latence, la fiabilité et le prix. 12

L’offre est séduisante, mais ses contours sont très précis : Router n’est disponible qu’aux États-Unis, les frais de routage sont supprimés jusqu’à la fin de 2026 et les clients continuent de payer les coûts d’utilisation des modèles sous-jacents. Les nouveaux utilisateurs reçoivent par ailleurs 26 dollars de crédits modèles. Ramp n’a pas encore indiqué le prix du service à partir de 2027. 2

Que fait concrètement Ramp Router ?

Router se place entre l’application d’une entreprise et les fournisseurs de modèles d’IA. Plutôt que de lier son application à un modèle précis, un développeur peut utiliser un seul point d’accès pour envoyer des requêtes à différents modèles, comparer leurs résultats et déplacer le trafic au fil du temps. 1

Au lancement, le service donne accès à des modèles d’OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI et Z.ai. Son principe rappelle celui d’OpenRouter : la plateforme masque les différences d’intégration entre fournisseurs afin que les équipes puissent comparer les modèles et en changer sans reconstruire leur application. Le catalogue initial de Ramp est toutefois plus restreint que celui d’OpenRouter. 25

Comment Router choisit-il le modèle ?

Ramp propose plusieurs méthodes pour décider où envoyer une requête ou pour tester une alternative avant de modifier le trafic réel.

Routage vers un niveau flexible

Certains fournisseurs proposent un niveau tarifaire moins cher, mais dont la latence est moins prévisible. Router peut y envoyer les requêtes lorsque les performances observées restent comparables à celles du niveau standard. Si la latence devient moins compétitive, la requête reste sur le service standard. 1

Sélection selon des benchmarks

Une équipe peut choisir jusqu’à trois benchmarks et leur attribuer des pondérations. Router utilise ensuite ces préférences pour classer les modèles disponibles et sélectionner celui qui obtient le meilleur score au regard des besoins définis. 1

Tests en parallèle sur un modèle candidat

Avec le shadow testing, Router copie un échantillon de requêtes de production vers un modèle candidat, tandis que le modèle actuel continue de répondre aux utilisateurs. L’équipe peut ainsi comparer la qualité, la latence et le coût avant de basculer le trafic en production. 1

Escalade selon la difficulté pour les agents

Nvidia Switchyard cible les tâches dites agentiques, qui se déroulent en plusieurs étapes. Les étapes simples peuvent rester sur un modèle moins coûteux, tandis que les étapes plus difficiles sont transférées vers un modèle plus performant — et potentiellement plus cher. 1

Ces fonctions font de Router autre chose qu’un simple sélecteur de modèles. L’objectif est de permettre aux équipes de tester régulièrement leurs options et d’ajuster le trafic lorsque les performances, les tarifs ou la complexité des tâches évoluent.

Que permet de suivre le tableau de bord ?

Le tableau de bord affiche, pour chaque requête, le modèle choisi, son fournisseur, le niveau de service utilisé, le nombre de jetons consommés, la latence, le coût et les éventuelles tentatives de bascule vers une solution de secours. Il fournit également une vue agrégée des dépenses. 1

Cette visibilité est importante, car le choix du modèle ne suffit pas à expliquer une facture d’IA. Le volume de jetons, les nouvelles tentatives, les mécanismes de repli, les niveaux de service et la proportion de tâches simples ou complexes peuvent tous faire varier la dépense totale d’inférence.

Une interface unifiée peut donc faciliter le suivi, mais les éléments disponibles ne permettent pas encore d’établir comment Router se compare aux autres passerelles en matière de précision ou de fiabilité.

Prix et disponibilité : ce qu’il faut retenir

Les conditions annoncées au lancement sont les suivantes :

• Disponibilité : États-Unis uniquement pour le moment. 2
• Frais de routage : gratuits jusqu’au 31 décembre 2026. 2
• Coûts d’inférence : non inclus ; les clients paient toujours les jetons consommés auprès des modèles. 2
• Crédit de lancement : 26 dollars de crédits modèles pour les nouveaux utilisateurs. 2
• Tarifs en 2027 : non communiqués au lancement. 2

La période gratuite ne signifie donc pas que l’utilisation de l’IA est illimitée ou entièrement gratuite. Elle supprime les frais facturés pour la couche Router jusqu’à la fin de 2026, mais pas le prix des modèles sollicités.

Conservation des données et confidentialité

Par défaut, Router conserve pendant un an les entrées, les sorties et les appels d’outils, avec une possibilité de retrait de cette conservation. Ramp affirme supprimer les informations permettant d’identifier directement des personnes avant d’utiliser les contenus conservés pour améliorer le produit. 2

Ce point mérite une attention particulière pour les entreprises qui envisagent le service. Une passerelle peut simplifier la gestion des fournisseurs, mais elle ajoute aussi un intermédiaire au parcours des données de l’application. Les organisations devront donc examiner les conditions applicables et vérifier si la durée de conservation par défaut correspond à leurs exigences de gouvernance des données.

Ramp promet-elle vraiment 40 % d’économies ?

Ramp affirme avoir développé et exploité son infrastructure de routage en interne pendant trois ans, et faire transiter par ce système son propre trafic d’IA en production. L’entreprise indique que les clients utilisant Router ont réduit leurs coûts d’inférence de 40 % en moyenne. 1

Ce chiffre doit être interprété comme un résultat communiqué par Ramp, et non comme une mesure indépendante. Les économies réelles dépendront du type de tâches traitées, du portefeuille de modèles, du profil du trafic, du niveau de qualité exigé et de l’acceptation — ou non — de niveaux de service moins prévisibles mais moins chers.

Router devrait surtout être intéressant pour les organisations qui génèrent suffisamment de trafic et utilisent assez de modèles différents pour tirer parti d’une optimisation continue.

Pourquoi ce lancement compte pour Ramp

Avec Router, Ramp ne se contente plus d’aider les entreprises à observer ou à contrôler leurs dépenses d’IA : elle cherche à intervenir directement dans la couche d’inférence. À terme, le service pourrait générer des revenus de routage après la période gratuite, compléter les outils de suivi de la consommation de jetons et de gestion des dépenses, et rapprocher Ramp des laboratoires d’IA et des fournisseurs d’infrastructure.

Le produit peut également servir de point d’entrée orienté développeurs vers l’activité plus large de gestion des dépenses de Ramp. Il s’agit d’une possibilité stratégique, pas d’une prévision publiée par l’entreprise.

Pour l’instant, le véritable test sera simple : Router parviendra-t-il à rendre le changement de modèle et le contrôle des coûts d’inférence assez faciles pour convaincre les équipes ? Et son modèle tarifaire après 2026 préservera-t-il cet avantage ?