Comment Uber a stabilisé sa facture d’IA malgré une utilisation multipliée par 9,4

Uber avait commencé par dépasser son budget d’IA pour 2026, mais l’entreprise n’a pas choisi de freiner mécaniquement l’accès aux outils. Elle a plutôt traité le problème comme un enjeu d’optimisation des coûts d’ingénierie : associer chaque tâche au modèle approprié, limiter les contextes excessifs, réutiliser les prompts mis en cache et montrer aux ingénieurs combien leurs sessions leur coûtent. 1

Cette méthode a permis de maintenir les dépenses totales d’IA globalement stables depuis avril, alors que les requêtes hebdomadaires adressées aux agents IA ont été multipliées par 9,4 depuis février. Avec le même modèle d’IA, Uber indique que le coût de 1 000 requêtes a baissé de près de 34 % par rapport à son pic d’avril, tandis que le coût par session a reculé de 52 % depuis son plus haut de juin. 1

Une adoption en forte progression

La baisse des coûts ne s’explique pas par une diminution de l’usage, bien au contraire. Les agents IA représentent désormais plus de 70 % des soumissions de modifications de code, les ingénieurs exécutent plus de 30 000 tâches d’agent par jour et le nombre de salariés utilisant les outils d’IA a plus que quadruplé. 1

Cette combinaison — davantage de tâches pour des dépenses globalement stables — traduit une baisse du coût unitaire. Les traitements ne sont pas devenus gratuits : Uber a surtout modifié la manière dont les tokens et la capacité des modèles sont consommés.

1. Choisir le modèle en fonction de la tâche

Uber dirige chaque tâche vers le modèle offrant le meilleur compromis entre capacités nécessaires et coût, au lieu d’utiliser systématiquement le modèle le plus puissant ou le plus cher. Les opérations simples peuvent être confiées à des modèles moins coûteux, tandis que les travaux plus complexes bénéficient de capacités supérieures. L’entreprise évalue également d’autres solutions, notamment des modèles à poids ouverts, pour certains usages. 1

La sélection du modèle devient ainsi une décision liée à la charge de travail, plutôt qu’un réglage unique appliqué partout. À grande échelle, même une économie modeste sur les requêtes courantes peut réduire sensiblement le coût moyen d’une tâche.

2. Encadrer le contexte des agents

Uber limite les sessions interactives à 400 000 tokens, même lorsqu’un modèle accepte une fenêtre de contexte pouvant atteindre un million de tokens. 1

Ce plafond répond à l’un des principaux risques liés aux agents de programmation : au fil des échanges, une session peut accumuler des fichiers, des résultats d’outils, des instructions et un historique de conversations toujours plus volumineux. Sans limite, une session exploratoire ou mal maîtrisée peut continuer à traiter des quantités croissantes de contexte.

Un plafond de tokens ne supprime donc pas l’usage des agents. Il fixe une limite prévisible pour les sessions les plus gourmandes et fournit aux équipes d’ingénierie un levier concret de contrôle.

3. Faire durer le cache des prompts

Uber a fait passer la durée de vie du cache des prompts de cinq minutes à une heure. L’objectif est de mieux correspondre aux habitudes de travail des ingénieurs, qui peuvent laisser une session inactive plus de cinq minutes avant de reprendre leur activité. 1

La réutilisation plus longue du cache évite de retraiter plusieurs fois le même contexte. Dans un flux de développement assisté par agent, où un même dépôt ou les mêmes instructions peuvent être consultés à plusieurs reprises, cette mesure réduit le traitement inutile de tokens sans modifier la tâche demandée.

4. Afficher le coût en temps réel

Uber permet aux ingénieurs de suivre en temps réel le coût d’une session d’IA directement dans leur terminal. 1

L’usage devient ainsi une boucle de retour immédiate. Plutôt que de découvrir une session coûteuse dans un rapport financier ultérieur, l’ingénieur peut voir la dépense pendant ses expérimentations et ajuster au besoin la session, le modèle ou le contexte.

Cette visibilité place aussi la maîtrise des coûts au cœur du flux de développement, là où se prennent concrètement les décisions concernant les prompts, les nouvelles tentatives, le contexte et le choix du modèle.

Ce que l’expérience d’Uber révèle pour l’IA en entreprise

Le cas d’Uber illustre un principe plus large : maîtriser les dépenses d’IA en entreprise ne relève pas uniquement de la budgétisation. C’est aussi un problème de conception des systèmes.

Les contrôles les plus structurants sont les suivants :

• Routage selon la charge de travail : utiliser des modèles moins coûteux lorsque leurs capacités suffisent.
• Gouvernance du contexte : fixer des limites aux sessions susceptibles d’accumuler de grands historiques riches en tokens.
• Mise en cache des prompts : réutiliser un contexte répété au lieu de le retraiter depuis le début.
• Mesure du coût unitaire : rendre visible le coût marginal d’un flux d’IA aux personnes qui l’exécutent.
• Mise en concurrence des modèles : évaluer plusieurs options, y compris des modèles à poids ouverts, plutôt que de s’en remettre à un modèle par défaut pour chaque tâche. 1

Ces mécanismes sont particulièrement importants pour les agents IA, car leur fonctionnement est itératif. Une seule demande peut déclencher plusieurs cycles de planification, d’utilisation d’outils, de vérification et de correction. La consommation totale de tokens devient alors moins prévisible que dans une interaction ponctuelle avec un chatbot.

Les résultats communiqués par Uber doivent donc être lus comme un exemple d’efficacité opérationnelle, et non comme la preuve qu’une croissance rapide de l’usage de l’IA ne comporte aucun risque financier. L’entreprise a maintenu ses dépenses globalement stables après avoir modifié l’économie de chaque requête et de chaque session.

Pour les autres entreprises, la leçon est simple : il faut développer l’adoption et la gouvernance des coûts en parallèle, en intégrant la mesure directement aux outils dès le départ.