Jak DeepSeek-V4.1-Flash usprawnia długie sesje agentów AI

Agent AI, który analizuje obszerną dokumentację lub wraca do długiej historii zadania, zwykle czyta znacznie więcej, niż pisze. Z myślą o takich zastosowaniach powstał DeepSeek-V4.1-Flash: model multimodalny typu mixture of experts (MoE), z publicznie udostępnionymi wagami i kontekstem o długości do miliona tokenów. Jego konstrukcja ma ograniczać nakład obliczeń przy odczycie oraz ilość pamięci potrzebnej do przechowywania historii. Sam limit kontekstu nie gwarantuje jednak, że model niezawodnie odnajdzie każdy szczegół długiej sesji. 28

Dlaczego długi kontekst ma być mniej kosztowny?

Mniej obliczeń przy odczycie niż przy pisaniu. Trzon modelu liczy 552 mld parametrów. Składa się z 20-warstwowego enkodera przyczynowego i 20-warstwowego dekodera. Globalna pamięć podręczna kluczy i wartości, czyli KV cache, używana przez dekoder powstaje z końcowych stanów enkodera, zamiast być wyznaczana osobno przez każdą warstwę dekodera. Według DeepSeek podczas przetwarzania wejścia (prefill) model aktywuje około 8 mld parametrów na token, a podczas generowania odpowiedzi (decode) — 16 mld. Ta różnica ma szczególne znaczenie, gdy agent analizuje długie dane wejściowe, lecz udziela krótkich odpowiedzi. 28

Mniejsza pamięć dla historii sesji. Mechanizm Compressed Sparse Attention 2 (CSA2) przypisuje warstwom uwagi jeden z trzech stałych trybów: Full, Reindex lub Reuse. Pozwala to współdzielić zapisane informacje między warstwami i ponownie wykorzystywać wybory dokonane przez mechanizm uwagi. W połączeniu z zapisem głównej pamięci KV w formacie FP4 daje to, według DeepSeek, 890 bajtów na token w globalnej pamięci podręcznej KV — około jednej czwartej wartości dla DeepSeek-V4-Flash. To porównanie rozmiaru pamięci, a nie dowód, że całkowity koszt każdego wdrożenia spadnie czterokrotnie. 68

Odtwarzanie zamiast trwałego przechowywania. SWA Bounded Replay odtwarza brakujące stany KV mechanizmu uwagi o przesuwanym oknie, ponownie przetwarzając jedynie ostatni fragment tokenów. Dzięki temu nie trzeba przechowywać tych stanów na dysku SSD. Karta modelu podaje, że pamięć KV wymagająca trwałego zapisu zajmuje w tym rozwiązaniu około jednej ósmej miejsca potrzebnego w V4-Flash. To inna miara niż wspomniana jedna czwarta dla globalnej pamięci KV. 59

Trening, obrazy i wyniki

Zestawienie parametrów treningu opisuje uczenie modelu od podstaw na multimodalnym zbiorze obejmującym 45 bilionów tokenów. Trening mechanizmu uwagi rzadkiej odbywał się przy sekwencjach długości 64 tys. tokenów, a kontekst rozszerzono do miliona tokenów po przetworzeniu 34 bilionów tokenów. DeepSeek przypisuje poprawę wyników także nowym metodom treningu wstępnego i późniejszemu treningowi ze wzmocnieniem na większą skalę; przytoczone materiały nie pozwalają jednak szczegółowo odtworzyć tej ostatniej procedury. 916

Model natywnie obsługuje tekst i obrazy, a DeepSeek deklaruje obsługę multimodalną również w API. Dostępne tu źródła nie dają podstaw do szczegółowej oceny jego wyników w zadaniach dotyczących obrazów. 216

W testach model bazowy osiągał, według DeepSeek, wyniki porównywalne z V4-Pro-Base w zakresie wiedzy, rozumowania i programowania. Firma podaje też poprawę o 5–10% w testach odłożonych na potrzeby oceny, przy około jednej trzeciej całkowitej liczby parametrów i jednej czwartej liczby parametrów aktywowanych. DeepSeek twierdzi ponadto, że udostępniona wersja przewyższa V4-Pro w zadaniach wykonywanych przez agentów. Przytoczone źródła nie wystarczają jednak do rzetelnego porównania poszczególnych benchmarków. Są to wyniki podawane przez twórcę modelu, a nie niezależny test porównawczy. 116

API i przejście ze starszych modeli

W API DeepSeek należy używać nazwy deepseek-flash. Udostępnione wagi są wymienione jako objęte licencją MIT. Materiały modelu opisują uruchamianie przez SGLang, a zestawienia wskazują również obsługę w Transformers i vLLM. Przed wdrożeniem warto sprawdzić wymagania wybranego środowiska — zwłaszcza zamiast zakładać, że każde tak samo obsługuje obrazy i maksymalną długość kontekstu. 8916

DeepSeek informuje, że V4-Flash i V4-Flash-Vision-Exp zostały wycofane, a ich dawne nazwy w API tymczasowo kierują do V4.1-Flash. Firma zapowiedziała również, że od 14 września 2026 r. żądania wysyłane pod nazwą deepseek-v4-pro będą kierowane do V4.1-Flash według stawek Flash, do czasu wprowadzenia V4.1-Pro. Jeśli aplikacja zależy od zachowania konkretnej wersji Pro, nie powinna wnioskować o użytym modelu wyłącznie z nazwy w żądaniu. 16