8 billioner tokens på én dag viser hvorfor KI-agenter endrer regnestykket

Det rapporterte forbruket på 8 billioner tokens på én dag hos OpenCode handler mindre om én enkelt populær modell enn om at selve arbeidsenheten i KI er i endring. Utviklere kjøper i stadig større grad en agentløkke: Modellen leser et kodearkiv, lager en plan, endrer filer, kjører programmet, undersøker feilmeldinger og prøver igjen.

OpenCode oppga at DeepSeek V4 Flash behandlet 8 billioner tokens 1. august, fordelt på 5 billioner gratis prøvebruk og 3 billioner gjennom det betalte Go-tilbudet. Separat plasserte OpenRouters ukesrangering for 27. juli–2. august V4 Flash på 7,22 billioner tokens for hele uken på den plattformen. Tallene er rapportert av plattformene og er ikke en uavhengig, revidert måling av all modellbruk. Likevel viser kontrasten hvor stort omfang agentarbeidsflyter kan få. 202329

Hvorfor agenter bruker så mange tokens

Et vanlig chatspørsmål har ofte en kort forespørsel og et avgrenset svar. En kodeagent har et langt større arbeidsgrunnlag: kildefiler, terminalutskrifter, testfeil, tidligere valg, genererte endringer og gjentatte verktøykall. Agenten kan måtte hente inn mye av denne konteksten på nytt mens den forsøker å løse oppgaven.

OpenCodes publiserte data for V4 Flash viser i snitt rundt 12 millioner tokens per økt og en input-cache-andel på 95 prosent. Det beviser ikke at hver økt er en fullt autonom kodejobb, men tallene passer bedre med langvarig, iterativt arbeid enn med korte chatsamtaler. 25

Det viktige er at brukeren ikke verdsetter antallet genererte tokens i seg selv. Verdien ligger i en pull request som blir godkjent, en testpakke som består, en fungerende prototype eller en arbeidsflyt som faktisk er fullført. En mer nyttig tommelfingerregel er derfor:

Kostnad per godkjente oppgave = total kostnad for modell og verktøyløkke ÷ sannsynligheten for at oppgaven oppfyller kravene.

Regnestykket må inkludere mislykkede forsøk, nye runder, menneskelig kvalitetssikring, ventetid og kostnaden ved å rette feil – ikke bare modellens oppgitte inn- og utpriser.

Lav tokenpris gjør flere forsøk forsvarlige

Rapportering om V4 Flash viste en førstepartspris på 0,14 dollar per million input-tokens og 0,28 dollar per million output-tokens. 12 Med slike satser kan en utvikler tillate flere iterasjoner, mer beholdt kontekst og mer automatisert testing enn med en vesentlig dyrere modell.

Det betyr ikke at den rimeligste modellen alltid er best. Men når en agent trenger mange runder for å bli ferdig med rutinearbeid, kan et lite kvalitetsgap bli oppveid av et stort kostnadsgap.

I én sammenligning fikk V4 Flash Max 50 poeng og Claude Opus 4.8 Max 56 poeng på Artificial Analysis Intelligence Index v4.1. Samtidig var den oppgitte kostnaden for å kjøre hele evalueringen henholdsvis 72,02 dollar og 3 752,55 dollar. Det er en svært stor kostnadsforskjell ved siden av et gap på seks poeng – men en evalueringssammenligning er ikke en garanti for lik pålitelighet i virkelig arbeid. 16

For vanskelige oppgaver eller arbeid med store konsekvenser kan en premiummodell fortsatt bli rimeligst per godkjente resultat dersom den reduserer feilutsettinger, behovet for oppfølging eller etterarbeid betydelig. Poenget er altså ikke å bruke billigste modell overalt, men å velge modell ut fra hva det totalt koster å nå et akseptabelt resultat.

«Kill line» legger mest press på mellomklassen

Uttrykket «DeepSeek kill line» bør forstås som en markedsmetafor. Det beskriver presset på modeller som er langt dyrere enn et rimelig alternativ nær toppen av markedet, uten å levere et tydelig bedre resultat på selve oppgaven.

Tre lag påvirkes ulikt:

• Rimelige rutingsmodeller er fortsatt nyttige til klassifisering, uttrekk, korte omskrivinger og sortering i stor skala – oppgaver der fart og lavest mulig enhetskostnad betyr mer enn avansert resonnering.
• Premiumflaggskip beholder en rolle i de vanskeligste oppgavene: langsiktig resonnering, svært høy pålitelighet, multimodalt arbeid, styringskrav og situasjoner der menneskelig kontroll er dyr.
• Modeller i mellomklassen får den skarpeste testen. Koster de betydelig mer enn Flash, må de dokumentere høyere fullføringsrate, lavere ventetid, bedre verktøybruk, integrasjoner, support eller virksomhetskontroller – ikke bare en marginal fordel på en benchmark.

Lavpris-agenter kan med andre ord bli standardarbeideren, mens premiummodeller blir spesialister som kobles inn ved eskalering. Mellomklassen må vise at den reduserer total kostnad per oppgave.

Teknologien bak agentøkonomi i stor skala

DeepSeek V4 Flash er en mixture-of-experts-modell (MoE) med 284 milliarder parametere totalt, men rundt 13 milliarder aktive per token, og støtter et kontekstvindu på én million tokens. 17 Designet skiller dermed modellens samlede kapasitet fra beregningen som faktisk må utføres for hvert token.

Effektiviteten bygger på flere deler:

• MoE-ruting: Bare et utvalg eksperter aktiveres for hvert token. Det reduserer aktiv beregning sammenlignet med å kjøre alle parametrene i en tett modell. 17
• Hybrid oppmerksomhet: V4-familien kombinerer Compressed Sparse Attention (CSA) og Heavily Compressed Attention (HCA), utviklet for å redusere belastningen på oppmerksomhetsmekanismen og minnet ved svært lange kontekster. 1733
• Lavere cache-belastning: NVIDIA beskriver V4-familiens oppmerksomhetsinnovasjoner som rettet mot 73 prosent lavere inferens-FLOPs per token og 90 prosent lavere minnebelastning fra KV-cache enn DeepSeek-V3.2 i den siterte sammenligningen. 33
• Cache-bevisste arbeidsflyter: Når en agent gjentatte ganger sender overlappende kode- og verktøykontekst, kan høy cache-gjenbruk få stor betydning for den reelle kostnaden. OpenCodes rapporterte cache-andel på 95 prosent viser hvorfor denne driftsdetaljen teller. 25

Dette er ikke bare tekniske spesifikasjoner. Det avgjør om det er økonomisk praktisk å la en agent undersøke et stort kodearkiv, bruke verktøy og hente seg inn etter feil flere ganger før den leverer et resultat.

Den nye konkurransen: evne, pålitelighet og kostnaden ved én runde til

Benchmarker for modellintelligens er fortsatt relevante, men de er ikke det eneste som betyr noe for agenter. Den nyttigste sammenligningen er en avveining mellom:

1. Evne: Kan modellen løse denne typen oppgave?
2. Pålitelighet: Hvor ofte leverer den et akseptabelt resultat uten kostbar inngripen?
3. Marginal kostnad per iterasjon: Hvor rimelig er ett ekstra verktøykall, én revisjon, én testkjøring eller ett nytt forsøk?

Den rapporterte dagen med 8 billioner tokens synliggjør den siste faktoren. Når agenter erstatter enkeltstående spørsmål, kan tokenforbruket øke med flere størrelsesordener. Modeller som gjør lang kontekst og gjentatte forsøk rimelige, kan bli standardvalget for brede og repetitive agentoppgaver – selv om et mer kapabelt flaggskip fortsatt er best når oppgaven er som vanskeligst. 202533