Så höll Uber AI-kostnaderna stabila när användningen ökade 9,4 gånger

Uber fick först se sina AI-utgifter överstiga den ursprungliga budgeten för 2026. Lösningen blev dock inte att strypa tillgången till verktygen, utan att behandla AI som ett optimeringsproblem för ingenjörskostnader: varje arbetsuppgift skulle matchas med en lämplig modell, överdrivet stora kontexter skulle begränsas, återkommande instruktioner skulle cachas och ingenjörerna skulle kunna se vad deras sessioner kostade. 1

Den modellen bidrog till att hålla Ubers totala AI-utgifter ungefär stabila sedan april, samtidigt som antalet veckovisa förfrågningar till AI-agenter ökade 9,4 gånger från februari. Med samma AI-modell uppger Uber att kostnaden per 1 000 förfrågningar sjönk med nästan 34 procent från toppen i april, medan kostnaden per session minskade med 52 procent från toppnivån i juni. 1

AI-användningen fortsatte att öka

Kostnadsminskningen kom alltså samtidigt som användningen växte – inte för att den minskade. AI-agenter stod för mer än 70 procent av alla inskickade kodändringar, ingenjörer körde över 30 000 agentuppgifter varje dag och antalet anställda som använde AI-verktyg mer än fyrdubblades. 1

Kombinationen av kraftigt ökad användning och ungefär oförändrade utgifter pekar på att styckkostnaden föll. Arbetsuppgifterna blev inte gratis; Uber förändrade hur token och modellkapacitet användes.

1. Uppgifter styrs till rätt modell

Uber skickar arbetet till den modell som kan lösa uppgiften till bäst kostnad, i stället för att automatiskt välja den mest avancerade eller dyraste modellen. Enklare uppgifter kan gå till billigare modeller, medan mer krävande arbete får tillgång till större modellkapacitet. Företaget utvärderar också alternativ, bland annat modeller med öppna vikter, för särskilda användningsområden. 1

Modellvalet blir därmed en fråga om arbetslast, inte en inställning som passar alla situationer. I stor skala kan även små besparingar på rutinuppgifter få stor effekt på den genomsnittliga kostnaden per uppgift.

2. Långa agentkontexter begränsas

Uber begränsar interaktiva sessioner till 400 000 token, även när modellen stöder ett kontextfönster på upp till en miljon token. 1

Gränsen hanterar en av kostnadsriskerna med kodagenter: under en session kan filer, verktygsresultat, instruktioner och tidigare dialog byggas på i snabb takt. Utan en tydlig gräns kan utforskande eller dåligt styrda sessioner fortsätta att bearbeta allt större mängder kontext.

En tokenbegränsning stoppar inte användningen av agenter. Den skapar ett förutsägbart tak för de mest kontexttunga sessionerna och ger utvecklingsteamen en konkret kontrollpunkt.

3. Promptcache sparas längre

Uber förlängde livslängden för sin promptcache från fem minuter till en timme. Syftet var att bättre spegla ingenjörernas arbetssätt, där en AI-session kan ligga vilande längre än fem minuter innan arbetet återupptas. 1

När samma kontext kan återanvändas behöver den inte bearbetas från början varje gång. I kodbaserade agentflöden, där samma kodförråd eller instruktioner kan återkomma under en session, kan det minska onödig tokenbearbetning utan att själva uppgiften förändras.

4. Ingenjörerna ser kostnaden i realtid

Uber visar ingenjörerna den löpande kostnaden för en AI-session direkt i terminalen. 1

Det gör användningen till en omedelbar återkopplingsloop. I stället för att först upptäcka en dyr arbetsprocess i en senare ekonomirapport kan ingenjören se kostnaden medan experimentet pågår och vid behov ändra sessionen, modellen eller mängden kontext.

Åtgärden placerar kostnadsmedvetenheten i själva arbetsflödet – där besluten om instruktioner, omförsök, kontext och modellval faktiskt fattas.

Vad Ubers resultat betyder för företagens AI-satsningar

Ubers erfarenhet visar en bredare princip: att kontrollera AI-kostnader i stora organisationer är inte bara en budgetfråga. Det är också en fråga om systemdesign.

De mest hållbara kontrollmekanismerna i exemplet är:

• Modellstyrning efter arbetslast: använd billigare modeller när deras kapacitet räcker.
• Styrning av kontext: sätt gränser för sessioner som kan samla på sig stora mängder tokenintensiv historik.
• Promptcachning: återanvänd upprepad kontext i stället för att bearbeta den från grunden.
• Mätning av styckkostnad: gör den extra kostnaden för ett AI-arbetsflöde synlig för dem som använder det.
• Konkurrens mellan modeller: utvärdera alternativ, inklusive modeller med öppna vikter, i stället för att använda samma standardmodell för alla uppgifter. 1

Kontrollerna är särskilt viktiga för AI-agenter eftersom deras arbete är iterativt. En enda användarbegäran kan leda till flera rundor av planering, verktygsanrop, verifiering och revidering. Därför blir den totala tokenförbrukningen mindre förutsägbar än vid en enkel engångsfråga.

Ubers siffror bör därför ses som ett exempel på operativ effektivisering – inte som ett bevis på att snabbt växande AI-användning saknar ekonomiska risker. Företaget höll utgifterna ungefär stabila först efter att ha förändrat ekonomin i varje förfrågan och session. För andra företag är lärdomen tydlig: skala AI-användningen och kostnadsstyrningen samtidigt, och bygg in mätningen direkt i verktygen från början.