8 трлн токенов за день: почему ИИ-агенты меняют экономику моделей

Сообщение о 8 трлн токенов за один день в OpenCode — это не столько история о популярности одной модели, сколько сигнал о смене базовой единицы работы с ИИ. Разработчики всё чаще оплачивают не единичный ответ чат-бота, а целый агентный цикл: прочитать репозиторий, составить план, внести правки, запустить программу, изучить ошибку и попробовать снова.

По данным OpenCode, 1 августа DeepSeek V4 Flash обработала 8 трлн токенов: 5 трлн в рамках бесплатного пробного использования и 3 трлн через платный тариф Go. Отдельно OpenRouter — агрегатор доступа к разным моделям — поставил V4 Flash на первое место в недельном рейтинге за период с 27 июля по 2 августа: на этой платформе модель обработала 7,22 трлн токенов за неделю. Это платформенная отчётность, а не независимый аудит всего рынка, однако сами масштабы хорошо показывают, насколько ёмкими могут быть агентные рабочие процессы. 202329

Почему агенты расходуют так много токенов

У обычного чат-запроса, как правило, небольшой промпт и ограниченный ответ. У программирующего агента рабочий контекст существенно шире: исходные файлы, вывод терминала, результаты тестов, сообщения об ошибках, предыдущие решения, сгенерированные патчи и серии вызовов инструментов. В ходе работы агент может неоднократно возвращаться к значительной части этого контекста.

В опубликованной статистике OpenCode для V4 Flash указаны в среднем около 12 млн токенов на сессию и 95% входных токенов из кэша. Эти показатели не доказывают, что каждая сессия представляет собой полностью автономную разработку, но согласуются со сценарием долгой итеративной работы с большим контекстом, а не с коротким диалогом. 25

Поэтому пользователю важен не объём сгенерированных токенов. Важен принятый pull request, прошедший набор тестов, работающий прототип или корректно завершённый процесс. Практичнее оценивать модель так:

Стоимость принятой задачи = совокупные расходы на модель и агентный цикл ÷ вероятность выполнения задачи на требуемом уровне.

В эту формулу входят неудачные попытки, повторные запуски, проверка человеком, задержки и цена исправления ошибок — а не только заявленные тарифы на входные и выходные токены.

Дешёвые токены позволяют чаще пробовать заново

В публикациях о V4 Flash приводился тариф DeepSeek: $0,14 за миллион входных токенов и $0,28 за миллион выходных. 12 При таких ставках разработчик может позволить агенту больше итераций, удерживать больше контекста и чаще автоматически запускать тесты, чем при использовании модели с заметно более высокой ценой.

Это не означает, что дешёвая модель всегда предпочтительнее. Но если агенту для завершения типовой задачи нужны многие ходы, небольшое отставание в качестве может быть перекрыто большой разницей в стоимости.

Например, в одном сравнении V4 Flash Max получила 50 баллов в Artificial Analysis Intelligence Index v4.1, а Claude Opus 4.8 Max — 56. При этом стоимость полного набора тестов была указана на уровне $72,02 против $3 752,55. Разрыв в цене огромен при разнице в шесть пунктов, но это сопоставление оценок, а не гарантия одинаковой надёжности в реальных задачах. 16

Для сложной или критически важной работы премиальная модель всё равно может оказаться дешевле на один принятый результат, если она существенно снижает число неудачных развёртываний, объём надзора и переделок. Вывод не в том, чтобы выбирать минимальный тариф для всего подряд, а в том, чтобы распределять задачи с учётом полной стоимости достижения приемлемого результата.

«Линия уничтожения» сильнее бьёт по середине рынка

Выражение «линия уничтожения DeepSeek» стоит воспринимать как рыночную метафору. Речь о давлении на модели, которые заметно дороже дешёвой близкой к передовому уровню альтернативы, но не дают столь же очевидно лучшего результата в конкретной задаче.

По-разному реагируют три сегмента:

• Недорогие модели для маршрутизации по-прежнему полезны для классификации, извлечения данных, коротких преобразований и массового первичного разбора, где критичны скорость и минимальная стоимость единицы работы.
• Премиальные флагманы сохраняют роль в самых сложных задачах: длительных цепочках рассуждений, случаях с особенно высокими требованиями к надёжности, мультимодальной работе, требованиям к управлению и сценариях, где ручная проверка дорого обходится.
• Модели среднего уровня проходят самый жёсткий тест. Если они стоят ощутимо дороже Flash, им нужно доказывать преимущество в вероятности завершения задачи, задержках, работе с инструментами, интеграциях, поддержке или корпоративных механизмах контроля — а не только демонстрировать небольшой перевес в бенчмарке.

Иными словами, недорогая агентная модель может стать исполнителем по умолчанию, а флагман — специалистом для эскалаций. Среднему сегменту необходимо показать, что он снижает полную стоимость задачи.

За счёт чего V4 Flash рассчитана на экономику агентов

DeepSeek V4 Flash — модель типа mixture-of-experts (MoE): у неё 284 млрд параметров всего, но примерно 13 млрд активируются для каждого токена. Она поддерживает контекстное окно в 1 млн токенов. 17 Такая архитектура отделяет общую ёмкость модели от объёма вычислений, необходимых при генерации одного токена.

Её стратегия эффективности складывается из нескольких компонентов:

• Маршрутизация MoE: на каждый токен включается лишь часть экспертов, что снижает активные вычисления по сравнению с плотной моделью, где работают все параметры. 17
• Гибридное внимание: семейство V4 сочетает Compressed Sparse Attention (CSA) и Heavily Compressed Attention (HCA), чтобы уменьшить нагрузку на механизм внимания и память при очень длинном контексте. 1733
• Меньшая нагрузка на кэш: NVIDIA указывает, что нововведения в механизме внимания V4 нацелены на сокращение числа FLOPs при инференсе на токен на 73% и нагрузки на память KV-кэша на 90% по сравнению с DeepSeek-V3.2 в приведённом сопоставлении. 33
• Рабочие процессы с учётом кэша: агентные сессии многократно отправляют пересекающиеся фрагменты репозитория и контекст инструментов, поэтому высокий повторный доступ к кэшу способен существенно влиять на фактическую цену. Указанная OpenCode доля кэша в 95% объясняет важность этой детали. 25

Это не просто технические характеристики. Именно они определяют, можно ли экономически оправданно разрешить агенту изучать большой кодовый проект, выполнять инструменты и несколько раз восстанавливаться после ошибок до выдачи результата.

Новый рубеж: способности, надёжность и цена ещё одной итерации

Оценки интеллектуальных способностей в бенчмарках остаются важны, но для агентов этого недостаточно. Полезнее сравнивать модели по трём осям:

1. Способность: может ли модель решить задачу этого класса?
2. Надёжность: как часто она выдаёт приемлемый результат без дорогостоящего вмешательства?
3. Предельная стоимость итерации: насколько доступен ещё один вызов инструмента, вариант правки, прогон тестов или попытка восстановления после ошибки?

Сообщение о 8-триллионном дне делает третий фактор особенно заметным. По мере того как агенты заменяют разовые запросы, расход токенов способен вырасти на порядки. Модели, которые делают дешёвыми длинный контекст и повторные попытки, могут стать выбором по умолчанию для широкого круга повторяющихся агентных задач — даже если для наиболее трудных случаев более мощный флагман остаётся лучшим вариантом. 202533