8 bln tokenów DeepSeek V4 Flash w jeden dzień pokazuje, jak agenci AI zmieniają ekonomię modeli

Dzień z raportowanymi 8 bln tokenów na OpenCode nie jest wyłącznie historią o popularności jednego modelu. To sygnał, że zmienia się podstawowa jednostka pracy z AI. Programiści coraz częściej nie kupują pojedynczej odpowiedzi chatbota, lecz pętlę działania agenta: przeczytaj repozytorium, ułóż plan, zmień pliki, uruchom program, sprawdź błąd i spróbuj ponownie.

OpenCode podał, że 1 sierpnia DeepSeek V4 Flash przetworzył 8 bln tokenów — 5 bln w ramach bezpłatnych okresów próbnych i 3 bln w płatnej usłudze Go. Niezależnie od tego, w tygodniowym rankingu OpenRouter za okres 27 lipca–2 sierpnia V4 Flash miał przetworzyć 7,22 bln tokenów na całej tej platformie. Są to dane raportowane przez platformy, a nie niezależny audyt pełnego wykorzystania modelu. Mimo to dobrze pokazują skalę, do jakiej mogą dojść przepływy pracy z agentami. 202329

Dlaczego agenci zużywają tak dużo tokenów

Pojedyncze pytanie do chatbota ma zwykle krótki prompt i ograniczoną odpowiedź. Agent programistyczny pracuje natomiast na znacznie większym zestawie kontekstu: plikach źródłowych, wynikach z terminala, błędach testów, wcześniejszych decyzjach, wygenerowanych poprawkach i kolejnych wywołaniach narzędzi. Podczas realizacji zadania może wielokrotnie wracać do znacznej części tych informacji.

Według danych opublikowanych przez OpenCode dla V4 Flash średnia sesja obejmuje około 12 mln tokenów, a 95% tokenów wejściowych korzysta z cache’u. Te liczby nie dowodzą, że każda sesja jest autonomicznym zadaniem programistycznym, ale pasują do długiej, iteracyjnej pracy na obszernym kontekście, a nie do krótkiej rozmowy. 25

To ważne, bo użytkownik nie czerpie wartości z samej liczby wygenerowanych tokenów. Liczy się zaakceptowany pull request, przechodzący zestaw testów, działający prototyp lub poprawnie wykonany proces. Praktyczną miarą staje się więc:

Koszt zaakceptowanego zadania = całkowity koszt modelu i pętli narzędziowej ÷ prawdopodobieństwo, że zadanie spełni wymagany standard.

Do tego rachunku wchodzą nieudane próby, ponowienia, kontrola człowieka, opóźnienia oraz koszt naprawiania błędów — nie tylko cennik tokenów wejściowych i wyjściowych.

Tanie tokeny pozwalają ekonomicznie zwiększyć liczbę prób

W publikacjach dotyczących V4 Flash wskazywano cenę producenta na poziomie 0,14 USD za milion tokenów wejściowych i 0,28 USD za milion tokenów wyjściowych. 12 Przy takich stawkach programista może pozwolić agentowi na więcej iteracji, większy zachowany kontekst i częstsze automatyczne testy niż w przypadku modelu znacząco droższego.

Nie oznacza to, że tańszy model zawsze jest lepszy. Niewielka różnica jakości może jednak zostać zniwelowana przez dużą różnicę kosztów, gdy agent potrzebuje wielu tur, aby ukończyć rutynowe zadanie.

Jeden z porównywanych wyników podaje 50 punktów dla V4 Flash Max i 56 dla Claude Opus 4.8 Max w Artificial Analysis Intelligence Index v4.1. Równocześnie koszt uruchomienia pełnego zestawu testów wyniósł odpowiednio 72,02 USD i 3752,55 USD. To ogromna różnica kosztów przy sześciopunktowej różnicy wyniku — ale porównanie ewaluacyjne nie jest gwarancją identycznej niezawodności w praktyce. 16

W trudnych zadaniach lub tam, gdzie błąd ma wysoką cenę, model premium może nadal oferować niższy koszt na zaakceptowany wynik, jeśli wyraźnie zmniejsza liczbę nieudanych wdrożeń, potrzebę nadzoru lub zakres poprawek. Wniosek nie brzmi więc: „wszędzie wybieraj najtańszy model”. Chodzi o kierowanie zadań do modeli według pełnego kosztu osiągnięcia akceptowalnego rezultatu.

„Linia eliminacji” najmocniej uderza w środek rynku

Określenie „DeepSeek kill line” warto traktować jako metaforę rynkową. Opisuje ono presję na modele znacznie droższe od taniej alternatywy bliskiej czołówce, które nie dostarczają wyraźnie lepszego wyniku w konkretnym zadaniu.

Trzy segmenty reagują na to inaczej:

• Tanie modele do routingu pozostają przydatne w klasyfikacji, ekstrakcji danych, krótkich przekształceniach tekstu i masowym wstępnym sortowaniu zadań. W tych zastosowaniach ważniejsze od zaawansowanego rozumowania są szybkość i jak najniższy koszt jednostkowy.
• Flagowe modele premium zachowują rolę przy najtrudniejszych zadaniach: długofalowym rozumowaniu, wyjątkowej niezawodności, pracy multimodalnej, wymogach zarządczych i sytuacjach, w których ludzka weryfikacja jest kosztowna.
• Modele ze średniej półki przechodzą najostrzejszy test. Jeśli kosztują istotnie więcej niż Flash, muszą pokazać lepszy odsetek ukończonych zadań, niższe opóźnienia, sprawniejsze użycie narzędzi, lepszą integrację, wsparcie lub mechanizmy kontroli dla firm — a nie tylko niewielką przewagę w benchmarku.

Tani model agentowy może zatem stać się domyślnym wykonawcą, a model premium — specjalistą od eskalacji najtrudniejszych przypadków. Środkowy segment musi udowodnić, że obniża całkowity koszt zadania.

Skąd bierze się ekonomia pracy agentowej V4 Flash

DeepSeek V4 Flash to model typu mixture-of-experts (MoE), mający 284 mld parametrów łącznie, ale około 13 mld aktywowanych na token. Obsługuje też kontekst do miliona tokenów. 17 Taka architektura rozdziela szeroką pojemność modelu od ilości obliczeń potrzebnych przy generowaniu pojedynczego tokenu.

Na jego efektywność składa się kilka elementów:

• Routing MoE: dla danego tokenu aktywowana jest tylko część ekspertów, co ogranicza aktywne obliczenia w porównaniu z uruchamianiem wszystkich parametrów gęstego modelu. 17
• Hybrydowy mechanizm uwagi: rodzina V4 łączy Compressed Sparse Attention (CSA) i Heavily Compressed Attention (HCA), zaprojektowane tak, by ograniczać obciążenie pamięci i mechanizmu uwagi przy bardzo długim kontekście. 1733
• Mniejsze obciążenie cache’u: NVIDIA opisuje rozwiązania zastosowane w V4 jako ukierunkowane na redukcję liczby operacji FLOPs przy inferencji na token o 73% oraz redukcję obciążenia pamięci KV-cache o 90% względem DeepSeek-V3.2 w przywoływanym porównaniu. 33
• Praca świadoma cache’u: w sesjach agentowych, które wielokrotnie wysyłają nakładający się kontekst repozytorium i narzędzi, ponowne użycie cache’u może istotnie wpływać na faktyczny koszt. Raportowany przez OpenCode wskaźnik 95% pokazuje, dlaczego ten szczegół operacyjny ma znaczenie. 25

Nie są to wyłącznie parametry techniczne. Decydują o tym, czy finansowo ma sens pozwolić agentowi przejrzeć duży kod źródłowy, uruchamiać narzędzia i kilka razy wychodzić z błędów, zanim dostarczy wynik.

Nowa granica: zdolność, niezawodność i koszt kolejnej iteracji

Benchmarki mierzące zdolności modeli nadal są ważne, lecz w przypadku agentów nie są jedyną miarą. Użyteczne porównanie obejmuje trzy wymiary:

1. Zdolność: czy model potrafi rozwiązać daną klasę zadań?
2. Niezawodność: jak często dostarcza akceptowalny wynik bez kosztownej interwencji?
3. Krańcowy koszt iteracji: ile kosztuje kolejne wywołanie narzędzia, poprawka, uruchomienie testów albo próba odzyskania poprawnego stanu?

Raportowany dzień z 8 bln tokenów uwidacznia znaczenie trzeciego czynnika. Gdy agenci zastępują jednorazowe zapytania, zużycie tokenów może rosnąć o rzędy wielkości. Modele, które czynią długi kontekst i kolejne próby tanimi, mogą stać się wyborem domyślnym dla szerokiej, powtarzalnej pracy agentowej — nawet jeśli bardziej zaawansowany flagowiec pozostanie lepszą opcją w najtrudniejszych przypadkach. 202533