Uber fik AI-forbruget til at eksplodere uden en tilsvarende regning

Uber løb i første omgang fra sit AI-budget for 2026, men svaret blev ikke bare at lukke ned for adgangen. I stedet behandlede virksomheden AI som et problem i optimering af udviklingsomkostninger: Hver opgave skulle matches med en passende model, overdreven kontekst skulle begrænses, tidligere prompts skulle genbruges, og ingeniørerne skulle kunne se, hvad deres sessioner kostede. 1

Den tilgang var med til at holde Ubers samlede AI-udgifter omtrent stabile fra april, mens antallet af ugentlige forespørgsler til AI-agenter steg 9,4 gange fra februar. Med den samme AI-model oplyste Uber, at prisen pr. 1.000 forespørgsler faldt næsten 34 procent fra toppunktet i april, mens prisen pr. session faldt 52 procent fra toppunktet i juni. 1

AI-brugen fortsatte med at vokse

Besparelserne kom ikke, fordi medarbejderne brugte AI mindre. Tværtimod stod AI-agenter for mere end 70 procent af alle indsendte kodeændringer, ingeniørerne kørte over 30.000 agentopgaver om dagen, og antallet af medarbejdere, der brugte AI-værktøjer, blev mere end firedoblet. 1

Kombinationen af langt højere brug og omtrent stabile udgifter peger på, at enhedsomkostningen faldt. Arbejdsbelastningen blev ikke gratis; Uber ændrede blot måden, tokens og modelkapacitet blev brugt på.

1. Modellen blev valgt efter opgaven

Uber sender en opgave til den model, der kan løse den til den bedste pris, i stedet for automatisk at vælge den mest avancerede eller dyreste model. Enkle opgaver kan sendes til billigere modeller, mens mere krævende arbejde får adgang til større modelkapacitet. Virksomheden undersøger også alternativer, herunder open-weight-modeller, til bestemte anvendelser. 1

Dermed bliver modelvalget et spørgsmål om arbejdsbelastning frem for en standardindstilling, der gælder for alt. Selv beskedne besparelser på rutineforespørgsler kan gøre en mærkbar forskel for den gennemsnitlige pris pr. opgave i stor skala.

2. Lange agentsessioner fik en grænse

Uber begrænser interaktive sessioner til 400.000 tokens, også når den anvendte model understøtter et kontekstvindue på op til én million tokens. 1

Grænsen håndterer en af de centrale omkostningsrisici ved kodeagenter: En session kan løbende samle filer, værktøjsresultater, instruktioner og tidligere dialog. Uden en fast grænse kan undersøgende eller dårligt styrede sessioner blive ved med at behandle større og større mængder kontekst.

En token-grænse fjerner ikke agenternes funktionalitet. Den skaber et forudsigeligt loft for de mest konteksttunge sessioner og giver udviklingsteams et konkret styringspunkt.

3. Prompt-cachen holdt længere

Uber forlængede levetiden for sin prompt-cache fra fem minutter til én time. Ændringen skulle bedre afspejle ingeniørernes arbejdsrytme, hvor en AI-session kan stå stille i mere end fem minutter, før arbejdet fortsætter. 1

Når cachede prompts kan genbruges i længere tid, behøver den samme kontekst ikke at blive behandlet igen og igen. I agentbaserede kodeforløb, hvor det samme projekt eller de samme instruktioner ofte genbesøges, kan det reducere unødvendig tokenbehandling uden at ændre selve opgaven.

4. Ingeniørerne kunne se den løbende pris

Uber viser ingeniørerne den aktuelle pris for en AI-session direkte i terminalen. 1

Det gør forbruget til en del af den umiddelbare feedback i udviklingsarbejdet. I stedet for først at opdage en dyr arbejdsgang i en senere økonomirapport kan ingeniøren se prisen under eksperimentet og justere sessionen, modellen eller konteksten efter behov.

Samtidig placeres omkostningsbevidstheden dér, hvor beslutningerne faktisk bliver truffet: i arbejdet med prompts, gentagne forsøg, kontekst og modelvalg.

Hvad Ubers resultater betyder for virksomheders AI-brug

Ubers erfaring peger på et bredere princip: Kontrol med virksomheders AI-udgifter er ikke kun et spørgsmål om budgetter. Det er også et spørgsmål om systemdesign.

De mest holdbare greb i eksemplet er:

• Modelvalg efter arbejdsbelastning: Brug billigere modeller, når deres evner er tilstrækkelige.
• Styring af kontekst: Sæt grænser for sessioner, der kan samle store mængder token-tung historik.
• Prompt-caching: Genbrug gentagen kontekst i stedet for at behandle den fra bunden.
• Måling af enhedsomkostninger: Gør den marginale pris for en AI-arbejdsgang synlig for dem, der bruger den.
• Konkurrence mellem modeller: Undersøg alternativer, herunder open-weight-modeller, i stedet for at bruge én standardmodel til alle opgaver. 1

Grebenes betydning bliver især tydelig ved AI-agenter, fordi deres arbejde er iterativt. En enkelt brugerforespørgsel kan føre til flere runder med planlægning, værktøjsbrug, kontrol og revision. Det gør det samlede tokenforbrug mindre forudsigeligt end ved en enkeltstående chatbesked.

Ubers tal bør derfor læses som et eksempel på driftsmæssig effektivisering – ikke som et bevis på, at hurtigt voksende AI-brug er uden økonomisk risiko. Virksomheden holdt udgifterne omtrent stabile, efter at den havde ændret økonomien i hver enkelt forespørgsel og session. For andre virksomheder er læren enkel: Skal AI-brugen skaleres, bør omkostningsstyringen skaleres med fra begyndelsen, og måling bør bygges direkte ind i værktøjerne.