Hoe Uber AI-kosten stabiel hield terwijl het gebruik 9,4 keer toenam

Uber zag zijn AI-uitgaven aanvankelijk boven het budget voor 2026 uitkomen. Het bedrijf reageerde echter niet door de toegang tot AI simpelweg af te knijpen. In plaats daarvan benaderde het de situatie als een technisch kostenoptimalisatieprobleem: iedere taak moest naar een geschikt model, overmatig veel context moest worden beperkt, herhaalde prompts moesten worden hergebruikt en engineers moesten direct kunnen zien wat hun AI-sessies kostten. 1

Die aanpak hielp de totale AI-uitgaven sinds april grotendeels stabiel te houden, terwijl het aantal wekelijkse verzoeken aan AI-agents sinds februari 9,4 keer toenam. Bij gebruik van hetzelfde AI-model daalde de prijs per 1.000 verzoeken bijna 34 procent ten opzichte van de piek in april. De kosten per sessie lagen 52 procent lager dan op het hoogste punt in juni. 1

Het AI-gebruik bij Uber bleef sterk groeien

De kostenbesparing kwam dus niet doordat medewerkers minder AI gingen gebruiken. Integendeel: AI-agents waren goed voor meer dan 70 procent van de ingediende codewijzigingen, engineers voerden dagelijks meer dan 30.000 agenttaken uit en het aantal werknemers dat AI-tools gebruikte, nam meer dan verviervoudigd toe. 1

Veel meer gebruik bij ongeveer gelijkblijvende uitgaven wijst op lagere kosten per eenheid. Dat betekent niet dat AI gratis werd. Uber veranderde vooral de manier waarop tokens en modelcapaciteit werden ingezet.

1. Taken naar het juiste model sturen

Uber stuurt werk naar het model dat de taak tegen de beste verhouding tussen capaciteit en kosten kan uitvoeren. Eenvoudigere opdrachten kunnen naar goedkopere modellen gaan, terwijl complexer werk meer modelcapaciteit krijgt. Het bedrijf onderzoekt daarnaast alternatieven, waaronder modellen met open gewichten, voor specifieke toepassingen. 1

Modelkeuze wordt zo een beslissing per werklast in plaats van een vaste standaard voor alles. Op grote schaal kunnen zelfs kleine besparingen op routinetaken de gemiddelde kosten per opdracht aanzienlijk verlagen.

2. De context van langlopende agentsessies begrenzen

Uber stelt interactieve sessies in op maximaal 400.000 tokens, ook wanneer een model een contextvenster van maximaal één miljoen tokens ondersteunt. 1

Daarmee pakt het bedrijf een belangrijk kostenrisico van programmeeragents aan. Tijdens een sessie kunnen bestanden, toolresultaten, instructies en eerdere interacties zich opstapelen. Zonder duidelijke grens blijven verkennende of slecht gestuurde sessies steeds grotere hoeveelheden context verwerken.

Een tokenlimiet maakt het gebruik van agents niet onmogelijk. De limiet zorgt voor een voorspelbaar plafond bij sessies die bijzonder veel context bevatten en geeft engineeringteams een concreet aangrijpingspunt om het verbruik te beheersen.

3. Prompt-caching langer actief houden

Uber verlengde de levensduur van prompt-caching van vijf minuten naar één uur. Dat sluit beter aan bij de manier waarop engineers werken: een AI-sessie kan langer dan vijf minuten pauzeren voordat het werk wordt hervat. 1

Door context langer te hergebruiken, hoeft dezelfde informatie minder vaak opnieuw te worden verwerkt. In programmeerworkflows met AI-agents, waarin dezelfde repository of instructies tijdens een sessie opnieuw kunnen terugkomen, kan dat onnodige tokenverwerking voorkomen zonder de taak zelf te veranderen.

4. Engineers realtime inzicht in kosten geven

Engineers kunnen in hun terminal realtime zien wat een AI-sessie kost. 1

Daardoor ontstaat een directe feedbacklus. Een dure workflow wordt niet pas zichtbaar in een financieel rapport achteraf; de engineer kan tijdens het experimenteren al de sessie, het model of de hoeveelheid context aanpassen.

Kostenbewustzijn komt zo terecht in de productworkflow zelf. Dat is precies de plek waar beslissingen over prompts, herhaalde pogingen, context en modelkeuze worden genomen.

Wat dit betekent voor AI in bedrijven

De ervaring van Uber laat zien dat het beheersen van AI-uitgaven niet alleen een budgettaire opgave is. Het is ook een kwestie van systeemontwerp.

De belangrijkste maatregelen uit dit voorbeeld zijn:

• Modelroutering op basis van de taak: gebruik goedkopere modellen wanneer hun mogelijkheden volstaan.
• Beheer van context: stel grenzen aan sessies waarin grote hoeveelheden tokenrijke geschiedenis kunnen ontstaan.
• Prompt-caching: hergebruik terugkerende context in plaats van die steeds opnieuw te verwerken.
• Inzicht in eenheidskosten: maak de extra kosten van een AI-workflow zichtbaar voor de mensen die ermee werken.
• Concurrentie tussen modellen: onderzoek alternatieven, waaronder modellen met open gewichten, in plaats van voor iedere taak één standaardmodel te gebruiken. 1

Deze controles zijn vooral relevant voor AI-agents, omdat hun werk iteratief is. Eén gebruikersvraag kan leiden tot meerdere rondes van planning, toolgebruik, controle en bijsturing. Daardoor is het totale tokenverbruik minder voorspelbaar dan bij een eenmalige chatbotinteractie.

De cijfers van Uber zijn daarom geen bewijs dat snel groeiend AI-gebruik geen financieel risico vormt. Ze laten zien dat uitgaven en gebruik sterk van elkaar kunnen loskomen wanneer de kosten per verzoek en per sessie actief worden beheerd. Voor andere bedrijven is de les duidelijk: laat AI-adoptie en kostenbeheersing samen opschalen en bouw metingen vanaf het begin in de tools zelf in.