Come Uber ha tenuto stabile la spesa per l’AI mentre l’uso degli agenti aumentava di 9,4 volte

Uber aveva inizialmente superato il budget AI previsto per il 2026, ma non ha reagito semplicemente limitando l’accesso agli strumenti. Ha invece trattato l’intelligenza artificiale come un problema di ottimizzazione dei costi ingegneristici: associare ogni attività al modello più adatto, contenere il contesto eccessivo, riutilizzare i prompt memorizzati nella cache e mostrare agli sviluppatori quanto costano le loro sessioni. 1

Questo approccio ha contribuito a mantenere la spesa totale per l’AI sostanzialmente stabile da aprile, mentre le richieste settimanali agli agenti sono aumentate di 9,4 volte da febbraio. Usando lo stesso modello AI, Uber ha dichiarato che il costo per 1.000 richieste è sceso di quasi il 34% rispetto al picco di aprile, mentre il costo per sessione è diminuito del 52% rispetto al massimo registrato a giugno. 1

L’uso dell’AI da parte di Uber continua a crescere

Il miglioramento dei costi è arrivato mentre l’adozione si espandeva, non mentre diminuiva. Gli agenti AI sono coinvolti in oltre il 70% degli invii di modifiche al codice, gli ingegneri eseguono più di 30.000 attività agentiche al giorno e il numero di dipendenti che utilizzano strumenti AI è aumentato di oltre quattro volte. 1

La combinazione tra un uso molto più intenso e una spesa sostanzialmente stabile indica una riduzione del costo unitario. Non significa che questi carichi di lavoro siano diventati gratuiti: Uber ha cambiato il modo in cui vengono consumati token e capacità dei modelli.

1. Inviare ogni attività al modello più adatto

Uber assegna i lavori al modello in grado di gestirli al costo migliore, invece di usare automaticamente il modello più potente o più costoso. Le attività più semplici possono essere indirizzate verso modelli meno costosi, mentre i compiti più complessi ricevono una maggiore capacità del modello. L’azienda sta inoltre valutando alternative, compresi modelli a pesi aperti, per casi d’uso specifici. 1

La scelta del modello diventa così una decisione basata sul carico di lavoro, non un’impostazione uguale per tutti. Su larga scala, anche piccoli risparmi sulle richieste di routine possono modificare in modo significativo il costo medio per attività.

2. Limitare il contesto delle sessioni più lunghe

Uber impone alle sessioni interattive un limite di 400.000 token, anche quando il modello supporta una finestra di contesto fino a un milione di token. 1

Il limite affronta uno dei principali rischi di costo degli agenti per la programmazione: una sessione può accumulare file, risultati degli strumenti, istruzioni e cronologia delle interazioni. Senza una soglia, le sessioni esplorative o poco controllate possono continuare a elaborare quantità sempre maggiori di contesto.

Un tetto ai token non elimina l’uso degli agenti. Stabilisce un limite prevedibile per le sessioni che consumano più contesto e offre ai team di ingegneria un punto concreto per governare l’utilizzo.

3. Prolungare la durata della cache dei prompt

Uber ha esteso la durata della cache dei prompt da cinque minuti a un’ora. La modifica è stata pensata per adattarsi meglio al modo in cui lavorano gli ingegneri, le cui sessioni possono rimanere inattive per più di cinque minuti prima di riprendere. 1

Riutilizzare più a lungo i contenuti memorizzati nella cache può evitare che lo stesso contesto venga elaborato ripetutamente. Nei flussi di programmazione basati su agenti, in cui lo stesso repository o le stesse istruzioni possono essere richiamati più volte durante una sessione, questo riduce l’elaborazione superflua dei token senza cambiare l’attività richiesta.

4. Mostrare agli sviluppatori il costo in tempo reale

Uber offre agli ingegneri una visibilità immediata sul costo della sessione AI direttamente nei loro terminali. 1

In questo modo l’utilizzo diventa un ciclo di feedback interno al lavoro tecnico. Invece di scoprire che un flusso è costoso solo attraverso un successivo report finanziario, lo sviluppatore può vedere la spesa mentre sperimenta e, se necessario, modificare sessione, modello o contesto.

La misura porta inoltre la consapevolezza dei costi dentro il flusso operativo, proprio nel punto in cui vengono prese le decisioni su prompt, tentativi ripetuti, contesto e scelta del modello.

Cosa suggerisce il caso Uber alle aziende

L’esperienza di Uber illustra un principio più ampio: controllare la spesa per l’AI nelle imprese non è soltanto una questione di budget. È anche un problema di progettazione dei sistemi.

I controlli più solidi emersi da questo caso sono:

• Routing dei modelli in base al carico di lavoro: usare modelli meno costosi quando le loro capacità sono sufficienti.
• Governance del contesto: fissare limiti per le sessioni che possono accumulare grandi quantità di cronologia e token.
• Caching dei prompt: riutilizzare il contesto ripetuto invece di elaborarlo da zero.
• Monitoraggio del costo unitario: rendere visibile il costo marginale di un flusso AI alle persone che lo eseguono.
• Confronto tra modelli: valutare alternative, compresi i modelli a pesi aperti, invece di affidarsi a un’unica opzione predefinita per ogni attività. 1

Questi controlli sono particolarmente importanti per gli agenti AI, perché il loro lavoro è iterativo. Una singola richiesta dell’utente può generare diversi cicli di pianificazione, uso di strumenti, verifica e revisione, rendendo il consumo totale di token meno prevedibile rispetto a un’interazione una tantum.

I risultati dichiarati da Uber vanno quindi letti come un esempio di efficienza operativa, non come la prova che una crescita rapida dell’uso dell’AI non comporti rischi finanziari. L’azienda ha mantenuto la spesa sostanzialmente stabile solo dopo aver modificato l’economia di ogni richiesta e sessione. Per le altre imprese, la lezione è semplice: bisogna far crescere adozione e controllo dei costi insieme, integrando la misurazione direttamente negli strumenti fin dall’inizio.