8 biljoen tokens op één dag: waarom AI-agents de economie van modellen veranderen

Een gemelde dag met 8 biljoen tokens op OpenCode vertelt vooral iets over een verschuiving in AI-gebruik. Ontwikkelaars kopen niet langer alleen een antwoord op een vraag, maar steeds vaker een agentlus: een repository lezen, een plan maken, bestanden aanpassen, een programma uitvoeren, foutmeldingen bekijken en opnieuw proberen.

OpenCode meldde dat DeepSeek V4 Flash op 1 augustus 8 biljoen tokens verwerkte: 5 biljoen via gratis proefgebruik en 3 biljoen via het betaalde Go-aanbod. Ter vergelijking: in de wekelijkse ranglijst van OpenRouter voor 27 juli tot en met 2 augustus kwam V4 Flash uit op 7,22 biljoen tokens voor die hele week op dat platform. Het gaat om cijfers die door de platforms zelf zijn gemeld, niet om een onafhankelijk gecontroleerde meting van al het modelgebruik. Maar de vergelijking laat wel zien hoe groot agentworkflows kunnen worden. 202329

Waarom agents zoveel tokens verbruiken

Een eenmalige chatbotvraag heeft doorgaans een korte invoer en een begrensd antwoord. Een programmeeragent werkt met een veel grotere context: bronbestanden, terminaluitvoer, mislukte tests, eerdere beslissingen, gegenereerde patches en herhaalde toolcalls. Bij iedere nieuwe poging kan de agent een groot deel van die context opnieuw meenemen.

Volgens de gepubliceerde gegevens van OpenCode gebruikt een V4 Flash-sessie gemiddeld circa 12 miljoen tokens en is de input-cacheverhouding 95%. Dat bewijst niet dat iedere sessie een volledig autonome programmeeropdracht is, maar het past wel bij langdurig, iteratief werk met veel context — en minder bij gewone korte chats. 25

Het relevante resultaat voor een gebruiker is bovendien niet het aantal gegenereerde tokens. Het gaat om een gemergede pull request, een slaagde testsuite, een werkend prototype of een correct afgeronde workflow. Een bruikbare maatstaf is daarom:

Kosten per geaccepteerde taak = totale kosten van model en toollus ÷ kans dat de taak aan de vereiste norm voldoet.

Daarin zitten ook mislukte pogingen, nieuwe iteraties, menselijke controle, wachttijd en herstelwerk. Niet alleen de openbare prijs per miljoen input- of outputtokens.

Lage tokenprijzen maken extra pogingen betaalbaar

Voor V4 Flash werd een eigen prijs genoemd van US$ 0,14 per miljoen inputtokens en US$ 0,28 per miljoen outputtokens. 12 Tegen zulke tarieven kan een ontwikkelaar meer iteraties toestaan, meer context vasthouden en vaker automatisch laten testen dan bij een veel duurder model.

Dat betekent niet dat een goedkoper model altijd de beste keuze is. Wel kan een klein kwaliteitsverschil worden gecompenseerd door een groot prijsverschil, vooral wanneer een agent veel beurten nodig heeft voor routinematig werk.

Een vergelijking zette V4 Flash Max op 50 punten in de Artificial Analysis Intelligence Index v4.1, tegenover 56 voor Claude Opus 4.8 Max. De kosten om de volledige evaluatiesuite te draaien werden daarbij gerapporteerd als US$ 72,02 tegenover US$ 3.752,55. Dat is een enorm kostenverschil naast zes punten verschil in score. Het blijft echter een evaluatievergelijking, geen garantie dat beide modellen in de praktijk even betrouwbaar zijn. 16

Bij complexe of risicovolle opdrachten kan een premiummodel alsnog goedkoper zijn per geaccepteerd resultaat, als het veel minder mislukte implementaties, toezicht of herstelwerk oplevert. De les is dus niet: kies overal het goedkoopste model. De les is: routeer werk op basis van de volledige kosten om een acceptabele uitkomst te bereiken.

De ‘kill line’ zet vooral het middensegment onder druk

De term ‘DeepSeek kill line’ is vooral een marktmetafoor. Hij beschrijft de druk op modellen die veel duurder zijn dan een goedkoop model dicht bij de top, zonder aantoonbaar betere taakresultaten te leveren.

Drie lagen reageren daar verschillend op:

• Goedkope routeringsmodellen blijven nuttig voor classificatie, extractie, korte omzettingen en grootschalige triage. Daar tellen snelheid en de laagst mogelijke kosten per bewerking zwaarder dan geavanceerd redeneren.
• Premium-vlaggenschepen houden een rol bij de moeilijkste opdrachten: redeneren over een lange reeks stappen, uitzonderlijke betrouwbaarheid, multimodaal werk, governance-eisen en situaties waarin menselijke beoordeling duur is.
• Modellen in het middensegment krijgen de zwaarste test. Zijn ze merkbaar duurder dan Flash, dan moeten ze aantoonbaar beter scoren op taakafronding, snelheid, toolgebruik, integraties, ondersteuning of enterprise-controles — niet alleen een bescheiden benchmarkvoorsprong tonen.

Een goedkoop agentmodel kan dus de standaardwerker worden, terwijl een premiummodel vooral als escalatiespecialist wordt ingezet. Het middensegment moet bewijzen dat het de totale taakkosten verlaagt.

Waarom V4 Flash op agent-economie mikt

DeepSeek V4 Flash is een mixture-of-experts-model met 284 miljard parameters in totaal, waarvan er per token ongeveer 13 miljard actief zijn. Het ondersteunt bovendien een contextvenster van één miljoen tokens. 17 Die opzet scheidt de totale modelcapaciteit van de rekenkracht die nodig is voor elk gegenereerd token.

De efficiëntiestrategie bestaat uit meerdere onderdelen:

• Mixture-of-experts-routing: per token wordt slechts een deel van de experts geactiveerd. Dat beperkt de actieve rekenlast vergeleken met een dicht model dat alle parameters inzet. 17
• Hybride attention: de V4-familie combineert Compressed Sparse Attention (CSA) en Heavily Compressed Attention (HCA), bedoeld om de reken- en geheugenlast van zeer lange contexten te verlagen. 1733
• Lagere cachelast: NVIDIA beschrijft de attention-innovaties van de V4-familie als gericht op 73% minder inference-FLOPs per token en 90% minder belasting van het KV-cachegeheugen dan DeepSeek-V3.2 in de aangehaalde vergelijking. 33
• Cachebewuste workflows: wanneer een agent steeds overlappende repository- en toolcontext meestuurt, kan cachehergebruik de werkelijke kosten sterk drukken. De door OpenCode gemelde cacheverhouding van 95% laat zien waarom dit operationeel belangrijk is. 25

Dit zijn niet slechts technische specificaties. Ze bepalen of het financieel haalbaar is een agent een grote codebase te laten inspecteren, tools te laten gebruiken en meerdere keren van fouten te laten herstellen voordat er een bruikbaar resultaat ligt.

De nieuwe grens: capaciteit, betrouwbaarheid en kosten van de volgende iteratie

Benchmarks blijven relevant, maar voor agents zijn ze niet de enige maatstaf. De nuttige vergelijking bestaat uit drie onderdelen:

1. Capaciteit: kan het model dit soort taak oplossen?
2. Betrouwbaarheid: hoe vaak levert het zonder dure tussenkomst een acceptabel resultaat?
3. Marginale iteratiekosten: hoe betaalbaar zijn nog een toolcall, revisie, testrun of herstelpoging?

De gemelde dag van 8 biljoen tokens maakt vooral dat laatste zichtbaar. Nu agents losse vragen vervangen, kan het tokenverbruik met ordes van grootte stijgen. Modellen die lange context en herhaalde pogingen goedkoop maken, kunnen de standaardkeuze worden voor brede, repetitieve agenttaken — ook als een krachtiger vlaggenschip voor de lastigste gevallen de betere optie blijft. 202533