8 трлн токенів DeepSeek V4 Flash за день: чому AI-агенти змінюють економіку моделей

Повідомлення про 8 трлн токенів DeepSeek V4 Flash за один день в OpenCode — це не стільки історія про популярність однієї моделі, скільки сигнал про зміну базової одиниці роботи зі ШІ. Розробники дедалі частіше платять не за одну відповідь чат-бота, а за агентний цикл: прочитати репозиторій, скласти план, змінити файли, запустити програму, перевірити помилку й спробувати ще раз.

OpenCode повідомила, що 1 серпня DeepSeek V4 Flash обробила 8 трлн токенів: 5 трлн припали на безплатні пробні ліміти, ще 3 трлн — на платний тариф Go. Окремо OpenRouter — платформа-агрегатор доступу до різних моделей — у тижневому рейтингу за 27 липня — 2 серпня зафіксував для V4 Flash 7,22 трлн токенів за весь тиждень. Це дані самих платформ, а не незалежний аудит усього ринку, однак вони добре показують масштаб, якого можуть досягати агентні сценарії. 202329

Чому агенти «спалюють» стільки токенів

Разовий запит до чат-бота зазвичай має короткий промпт і обмежену відповідь. У програмувального агента робочий контекст значно ширший: вихідні файли, вивід термінала, падіння тестів, попередні рішення, згенеровані патчі та повторні звернення до інструментів. Під час виконання задачі він може знову й знову повертатися до значної частини цього контексту.

У відкритих даних OpenCode для V4 Flash зазначено приблизно 12 млн токенів на сесію в середньому та 95% кешування вхідних токенів. Це не доводить, що кожна сесія є повністю автономним програмувальним завданням, але такі показники узгоджуються з довгими, ітеративними робочими процесами, а не зі звичайним коротким листуванням. 25

Тут і криється головна різниця: користувачеві цінний не лічильник токенів, а злитий pull request, тести, що проходять, робочий прототип або коректно завершений процес. Тому практичний показник для оцінки моделі можна записати так:

Вартість прийнятого завдання = сукупна вартість моделі та циклу інструментів ÷ імовірність того, що результат відповідає потрібному стандарту.

У цю формулу входять невдалі спроби, повторні запуски, людська перевірка, затримки та виправлення помилок — не лише опубліковані тарифи на вхідні й вихідні токени.

Дешевші токени роблять повторні спроби економічно виправданими

У публікаціях про V4 Flash наводилася базова ціна від DeepSeek: $0,14 за мільйон вхідних токенів і $0,28 за мільйон вихідних. 12 За таких ставок розробник може дозволити агенту більше ітерацій, зберігати ширший контекст і частіше запускати автоматичні тести, ніж у разі значно дорожчої моделі.

Суть не в тому, що дешевша модель завжди краща. Велика різниця в ціні може переважити невеликий розрив у якості, якщо агенту потрібно багато ходів, аби завершити рутинну задачу.

Наприклад, в одному зіставленні за Artificial Analysis Intelligence Index v4.1 V4 Flash Max набрала 50 балів, а Claude Opus 4.8 Max — 56. Водночас заявлена вартість проходження повного набору оцінок становила $72,02 проти $3 752,55. Це величезна різниця у вартості за розриву у шість балів, але йдеться саме про порівняння оцінювання, а не про гарантію однакової надійності у реальних завданнях. 16

Для складних або критично важливих задач преміальна модель усе ще може виявитися дешевшою на один прийнятий результат, якщо вона істотно зменшує кількість невдалих розгортань, потребу в нагляді чи обсяг переробок. Висновок тут не «обирайте найдешевшу модель усюди», а «маршрутизуйте задачі за повною вартістю досягнення прийнятного результату».

«Лінія відсікання DeepSeek» найбільше тисне на середній сегмент

Вислів «лінія відсікання DeepSeek» варто сприймати як ринкову метафору. Йдеться про тиск на моделі, які суттєво дорожчі за недорогу альтернативу майже флагманського рівня, але не дають помітно кращого результату в задачі.

Різні сегменти реагують на це по-різному:

• Дешеві моделі для маршрутизації залишаються корисними для класифікації, вилучення даних, коротких перетворень і масового первинного відбору. Тут важливіші швидкість і мінімальна ціна за одиницю роботи, ніж складне міркування.
• Преміальні флагмани зберігають роль для найскладніших випадків: довгих ланцюгів міркувань, виняткової надійності, мультимодальних задач, вимог до управління й випадків, де людська перевірка обходиться дорого.
• Моделі середнього класу проходять найсуворіший тест. Якщо вони помітно дорожчі за Flash, їм потрібно доводити вищі показники завершення задач, кращу затримку, роботу з інструментами, інтеграції, підтримку або корпоративні механізми контролю — а не лише невелику перевагу в бенчмарку.

Інакше кажучи, недорогі агентні моделі можуть стати типовими «виконавцями», а преміальні — спеціалістами для ескалацій. Середній сегмент має довести, що реально знижує повну вартість задачі.

Які технічні рішення роблять таку економіку можливою

DeepSeek V4 Flash — це модель типу mixture-of-experts (MoE): вона має 284 млрд параметрів загалом, але активує приблизно 13 млрд на кожен токен. Також вона підтримує контекстне вікно до 1 млн токенів. 17 Така конструкція відокремлює загальну місткість моделі від обсягу обчислень, потрібних для генерації одного токена.

Її стратегія ефективності включає кілька складових:

• Маршрутизація MoE: для кожного токена активується лише частина експертів, що зменшує активні обчислення порівняно з щільною моделлю, де працюють усі параметри. 17
• Гібридна увага: сімейство V4 поєднує Compressed Sparse Attention (CSA) і Heavily Compressed Attention (HCA), щоб знизити навантаження на механізм уваги й пам’ять за дуже довгого контексту. 1733
• Менша потреба в кеші: NVIDIA описує ці нововведення як такі, що в наведеному порівнянні з DeepSeek-V3.2 мають на меті зменшити обчислення на токен під час інференсу на 73%, а навантаження на пам’ять KV-кешу — на 90%. 33
• Робочі процеси з урахуванням кешу: коли агент постійно надсилає частково однаковий контекст репозиторію та інструментів, високе повторне використання кешу може суттєво впливати на фактичну ціну. Заявлене OpenCode співвідношення кешу в 95% показує, чому ця операційна деталь важлива. 25

Це не просто технічні характеристики. Саме вони визначають, чи можна фінансово виправдано дозволити агенту аналізувати великий код, виконувати інструменти та кілька разів відновлюватися після помилок, перш ніж він видасть результат.

Нова межа: можливості, надійність і ціна ще однієї ітерації

Оцінки інтелекту за бенчмарками лишаються важливими, але для агентів це вже не єдиний критерій. Корисніше оцінювати компроміс між трьома параметрами:

1. Можливості: чи здатна модель розв’язати цей клас задач?
2. Надійність: як часто вона дає прийнятний результат без дорогої участі людини?
3. Гранична вартість ітерації: наскільки доступні ще один виклик інструмента, правка, прогін тестів або спроба відновлення?

Заявлені 8 трлн токенів за день роблять третій параметр особливо помітним. Коли агенти замінюють одноразові запити, споживання токенів може зрости на порядки. Моделі, які здешевлюють довгий контекст і повторні спроби, здатні стати типовим вибором для масштабних, повторюваних агентних процесів — навіть якщо для найважчих випадків кращим варіантом залишається потужніший флагман. 202533