DeepSeek-V4.1-Flash: een miljoen tokens, minder cachegeheugen

Een AI-agent die een lange gespreksgeschiedenis of grote hoeveelheden bronmateriaal leest, besteedt veel werk aan invoer voordat hij antwoord geeft. DeepSeek-V4.1-Flash is voor zulke sessies ontworpen: dit open-weight, multimodale mixture-of-experts-model (MoE) ondersteunt een context van maximaal een miljoen tokens en probeert de verwerking en opslag daarvan minder belastend te maken. Die limiet zegt hoeveel context het model kan verwerken, niet dat het elk detail uit een lange sessie feilloos terugvindt. 28

Waarom lezen minder rekenwerk kost dan schrijven

De basisarchitectuur telt 552 miljard parameters en bestaat uit een causale encoder met 20 lagen, gevolgd door een decoder met 20 lagen. De globale key-value-cache (KV-cache) van de decoder wordt afgeleid van de eindtoestand van de encoder, in plaats van afzonderlijk door iedere decoderlaag te worden opgebouwd. De KV-cache bewaart informatie die het model nodig heeft om bij volgende tokens naar eerdere invoer te kunnen verwijzen. 28

Volgens DeepSeek zijn tijdens prefill — het verwerken van de invoer — ongeveer 8 miljard parameters per token actief. Tijdens decode, het genereren van uitvoer, zijn dat er 16 miljard. Dat verschil is vooral relevant voor agents die veel tekst lezen en relatief korte antwoorden produceren. 28

Twee cachecijfers, twee verschillende vergelijkingen

Met Compressed Sparse Attention 2 (CSA2) krijgt elke aandachtslaag een van drie vaste modi: Full, Reindex of Reuse. Daardoor kunnen lagen cache-informatie en selecties voor schaarse aandacht hergebruiken. In combinatie met FP4-opslag voor de belangrijkste KV-cache komt de globale cache volgens DeepSeek uit op 890 bytes per token: ongeveer een kwart van de voetafdruk van DeepSeek-V4-Flash. Dat is een vergelijking van cachegeheugen, geen gemeten besparing op de totale kosten van elke toepassing. 68

Daarnaast gebruikt het model SWA Bounded Replay. Daarbij worden ontbrekende KV-toestanden voor sliding-window attention opnieuw opgebouwd door alleen de recentste reeks tokens nogmaals te verwerken. Die toestanden hoeven daardoor niet op een SSD bewaard te blijven. De modelbeschrijving noemt voor deze permanente opslag een KV-cachevoetafdruk van ongeveer een achtste van die van V4-Flash. Dat is dus een andere maatstaf dan het kwart voor de globale cache. 59

Training, beeldverwerking en prestaties

Een modeloverzicht beschrijft training vanaf nul op een multimodale dataset van 45 biljoen tokens. De training met schaarse aandacht gebruikte reeksen van 64.000 tokens; bij het punt van 34 biljoen tokens werd de context uitgebreid naar een miljoen tokens. DeepSeek schrijft verdere verbeteringen toe aan nieuwe pretrainingmethoden en grootschaligere natraining met reinforcement learning. De aangehaalde informatie onderbouwt geen gedetailleerder recept voor die natraining. 916

Het model kan van nature tekst en beelden verwerken; DeepSeek zegt dat ook de API-versie multimodale ondersteuning biedt. De beschikbare bronfragmenten geven geen gedetailleerde resultaten voor benchmarks voor beeldverwerking. 216

In DeepSeeks eigen evaluaties presteert het basismodel op kennis, redeneren en programmeren vergelijkbaar met V4-Pro-Base. Op apart gehouden evaluaties meldt het bedrijf verbeteringen van 5 tot 10%, met ongeveer een derde van het totale aantal parameters en een kwart van het aantal actieve parameters. DeepSeek stelt ook dat het uitgebrachte model V4-Pro overtreft op agenttaken. De aangehaalde fragmenten bieden daarvoor geen betrouwbare vergelijking per benchmark: dit zijn gerapporteerde resultaten, geen onafhankelijke rechtstreekse test. 116

API en overstap vanaf oudere modelnamen

Voor de DeepSeek-API is de modelnaam deepseek-flash. De gepubliceerde gewichten staan vermeld onder de MIT-licentie. De modeldocumentatie beschrijft gebruik via SGLang; modeloverzichten noemen ook ondersteuning voor inferentie met Transformers en vLLM. Controleer per runtime of de gewenste multimodale functies en lange context daadwerkelijk op dezelfde manier worden ondersteund. 8916

Volgens DeepSeek zijn V4-Flash en V4-Flash-Vision-Exp uitgefaseerd. Hun oudere API-namen verwijzen tijdelijk door naar V4.1-Flash. DeepSeek kondigde bovendien aan dat verzoeken aan deepseek-v4-pro vanaf 14 september 2026 naar V4.1-Flash worden geleid tegen Flash-tarieven, in afwachting van V4.1-Pro. Wie afhankelijk is van specifiek Pro-gedrag, kan daarom beter controleren welk model een verzoek werkelijk afhandelt dan op de alias afgaan. 16