Как Uber удержала расходы на ИИ на прежнем уровне при росте использования агентов в 9,4 раза

Uber столкнулась с перерасходом бюджета на ИИ в начале 2026 года, но не стала решать проблему простым ограничением доступа к инструментам. Вместо этого компания подошла к ИИ как к инженерной задаче по оптимизации затрат: каждой рабочей нагрузке подбирали подходящую модель, ограничивали чрезмерно большие контексты, повторно использовали закэшированные промпты, а инженерам показывали стоимость их сессий в реальном времени. 1

Такой подход помог сохранить общие расходы на ИИ примерно стабильными с апреля, хотя число еженедельных запросов к ИИ-агентам выросло с февраля в 9,4 раза. При использовании той же модели Uber сообщила, что стоимость 1 000 запросов снизилась почти на 34% по сравнению с апрельским пиком, а стоимость одной сессии — на 52% по сравнению с июньским максимумом. 1

Использование ИИ в Uber продолжило расти

Снижение затрат произошло не из-за сокращения масштабов внедрения. Напротив, ИИ-агенты теперь участвуют более чем в 70% отправок изменений кода, инженеры выполняют свыше 30 000 агентных задач в день, а число сотрудников, использующих ИИ-инструменты, выросло более чем в четыре раза. 1

Сочетание гораздо большего объема работы и примерно стабильных расходов указывает на снижение себестоимости одной единицы работы. Это не означает, что агентные задачи стали бесплатными: Uber изменила способ использования токенов и вычислительных ресурсов моделей.

1. Подбор модели под задачу

Uber направляет каждую задачу к модели, которая может выполнить ее с оптимальным соотношением возможностей и стоимости. Более простые операции передаются менее дорогим моделям, а для сложных задач выделяются более мощные ресурсы. Компания также оценивает альтернативы, включая модели с открытыми весами, для отдельных сценариев. 1

Таким образом, выбор модели становится решением, зависящим от рабочей нагрузки, а не универсальной настройкой по умолчанию. В большом масштабе даже небольшая экономия на рутинных запросах заметно влияет на среднюю стоимость задачи.

2. Ограничение продолжительности агентных сессий

Uber ограничивает интерактивные сессии объемом в 400 000 токенов, даже если используемая модель поддерживает контекст длиной до одного миллиона токенов. 1

Лимит снижает один из главных рисков при работе с агентами для программирования: сессия может постепенно накапливать файлы, результаты вызовов инструментов, инструкции и историю взаимодействия. Без ограничителя экспериментальная или плохо контролируемая сессия способна обрабатывать все больше контекста.

Лимит токенов не запрещает использовать ИИ-агентов. Он устанавливает предсказуемый потолок для самых ресурсоемких сессий и дает инженерным командам понятный инструмент контроля расходов.

3. Увеличение срока жизни кэша промптов

Uber увеличила срок хранения кэша промптов с пяти минут до одного часа. Это лучше соответствует рабочему ритму инженеров: сессия может простаивать дольше пяти минут, прежде чем работа продолжится. 1

Более длительное повторное использование кэша позволяет не обрабатывать один и тот же контекст заново. В агентных сценариях, где в рамках одной сессии неоднократно используются один репозиторий или одни инструкции, это снижает лишнюю обработку токенов без изменения самой задачи.

4. Отображение текущей стоимости для инженеров

Uber показывает инженерам стоимость ИИ-сессии в реальном времени прямо в терминале. 1

Это превращает расходы в мгновенную обратную связь. Вместо того чтобы узнать о дорогом сценарии только из последующего финансового отчета, инженер видит затраты во время эксперимента и при необходимости может изменить модель, контекст или ход сессии.

Расходы становятся частью рабочего процесса — именно там, где принимаются решения о промптах, повторных попытках, объеме контекста и выборе модели.

Что опыт Uber говорит о корпоративном ИИ

История Uber показывает более широкий принцип: контроль расходов на корпоративный ИИ — это не только вопрос бюджета. Это также задача проектирования систем.

Наиболее устойчивые меры в данном случае выглядят так:

• Маршрутизация по типу нагрузки: использовать менее дорогие модели там, где их возможностей достаточно.
• Контроль контекста: устанавливать пределы для сессий, в которых может накапливаться большой объем токенов.
• Кэширование промптов: повторно использовать уже обработанный контекст, а не отправлять его на обработку заново.
• Мониторинг стоимости единицы работы: показывать предельную стоимость ИИ-сценария сотрудникам, которые им управляют.
• Конкуренция между моделями: оценивать альтернативы, включая модели с открытыми весами, вместо того чтобы применять одну модель для всех задач. 1

Эти меры особенно важны для ИИ-агентов, поскольку их работа носит итеративный характер. Один запрос пользователя может привести к нескольким циклам планирования, вызова инструментов, проверки и доработки. Поэтому расход токенов в агентном сценарии менее предсказуем, чем при разовом обращении к чат-боту.

Результаты Uber стоит воспринимать как пример операционной эффективности, а не как доказательство того, что быстро растущее использование ИИ не несет финансовых рисков. Компания сохранила расходы примерно стабильными после того, как изменила экономику каждого запроса и каждой сессии. Для других предприятий вывод очевиден: масштабировать внедрение ИИ и контроль затрат нужно одновременно, заранее встраивая измерение стоимости непосредственно в рабочие инструменты.