AnswersPublished22 sources
DeepSeek åbner DeepInfer – men ikke en færdig AI-tjeneste
DeepSeek offentliggjorde DeepInfer den 20. oktober 2026. Den første version nævner NVIDIA SM100 GPU’er og Huawei Ascend 950 NPU’er.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- DeepSeek offentliggjorde DeepInfer den 20. oktober 2026.
- Den første version nævner NVIDIA SM100 GPU’er og Huawei Ascend 950 NPU’er. Det betyder ikke, at andre chipmodeller også understøttes.
- DeepSeeks tal om 155 billioner tokens om dagen pr. klynge er ikke blevet uafhængigt efterprøvet i den tilgængelige omtale.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI developer DeepSeek open-source on October 20, 2026, with its DeepInfer inference framework and companion deepseek-recipe. Article summary: On October 20, 2026, DeepSeek released DeepInfer, the inference software it says powers its production services, alongside deepseek-recipe, a companion component for converting API requests into model tokens and back int. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
DeepSeek har den 20. oktober 2026 gjort mere af sin inferenssoftware tilgængelig for andre. DeepInfer er den motor, virksomheden siger driver dens produktionstjenester, mens ledsagerkomponenten deepseek-recipe håndterer behandling af forespørgsler og tokens. Den vigtigste begrænsning er, at den offentlige udgivelse tilbyder offline-inferens – ikke en komplet, klar erstatning for DeepSeeks hostede API.3
4
33
Hvad DeepInfer og deepseek-recipe gør
DeepInfer er et inferensframework: software, der kører en trænet model og genererer svar. Den første udgave understøtter DeepSeek-V4.1-Flash og udgives under Apache 2.0-licensen, ifølge omtalen af lanceringen.4
5
Blandt funktionerne er distribueret inferens, optimerede kerner, spekulativ dekodning, asynkron planlægning, batch-invariant inferens og strukturerede svar.33
34 Strukturerede svar gør det muligt at begrænse modellens output til bestemte formater, for eksempel et JSON-skema, et regulært udtryk eller en EBNF-grammatik.
29
30
deepseek-recipe er den tilhørende komponent, der omsætter forespørgsler til modelinput og konverterer modellens output tilbage til svar. Omtalen beskriver understøttelse af velkendte API-formater, men det dokumenterer ikke i sig selv fuld kompatibilitet med alle funktioner i DeepSeeks hostede API.3
9
Understøttede modeller og chips
Ved lanceringen står DeepSeek-V4.1-Flash på listen over understøttede modeller. DeepInfer angiver også to acceleratorfamilier: NVIDIA SM100-GPU’er og Huawei Ascend 950-NPU’er.3
5 Det er ikke dokumentation for, at alle NVIDIA-GPU’er eller Huawei-acceleratorer kan bruges, og de tilgængelige kilder fastslår ikke, hvilke konkrete kortvarianter der understøttes.
Hvad løfterne om ydeevne betyder
DeepSeek præsenterer DeepInfer som et højtydende framework. Bloomberg vurderer, at softwaren potentielt kan gøre det billigere og lettere for virksomheder at køre DeepSeeks modeller ved at udnytte computerressourcerne mere effektivt.33
45 Det er mulige fordele – ikke en garanti for lavere driftsomkostninger, energiforbrug eller svartid eller for en bestemt kapacitet i enhver opsætning.
Et tal på 155 billioner tokens om dagen pr. klynge er blevet omtalt som DeepSeeks oplysning, men den tilgængelige dækning bekræfter det ikke uafhængigt og giver ikke tilstrækkelige detaljer til en direkte sammenligning med andre systemer.1
5 The Next Web skriver ligeledes, at DeepSeeks hastighedstal ikke er blevet testet uafhængigt.
49
Derfor er DeepInfer ikke en færdig onlinetjeneste
Den offentlige udgave leverer offline-inferens. Omtalen af udrulningsdokumentationen peger desuden på flere dele til drift af en tjeneste, som ikke følger med: håndtering af KV-cache, opdeling af arbejdet mellem promptbehandling og generering af tokens (prefill/decode-disaggregering) samt belastningsfordeling mellem flere kopier af modellen.4
7
Virksomheder, der vil tilbyde en tjeneste til mange brugere, skal derfor selv stå for yderligere driftsinfrastruktur. DeepInfer passer umiddelbart bedre til organisationer med erfaring i inferenssystemer end til teams, der leder efter en færdig hostingtjeneste. Om selvhosting bliver billigere, afhænger af den nødvendige hardware og driftsindsats; udgivelsen alene dokumenterer ikke de samlede omkostninger.
Kort fortalt
DeepInfer åbner for adgang til en inferensmotor, som DeepSeek bruger i produktion, men som foreløbig kun understøtter DeepSeek-V4.1-Flash. deepseek-recipe supplerer med behandling af forespørgsler og svar. Tilsammen giver værktøjerne infrastrukturfokuserede teams flere byggesten til selvhosting, men de bør skelne mellem de annoncerede optimeringer og uafhængigt målte resultater – og regne med ekstra arbejde for at gøre offline-inferens til en stabil onlinetjeneste.3
4
33
49
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "DeepSeek åbner DeepInfer – men ikke en færdig AI-tjeneste"?
DeepSeek offentliggjorde DeepInfer den 20. oktober 2026.
What are the key points to validate first?
DeepSeek offentliggjorde DeepInfer den 20. oktober 2026. Den første version nævner NVIDIA SM100 GPU’er og Huawei Ascend 950 NPU’er. Det betyder ikke, at andre chipmodeller også understøttes.
What should I do next in practice?
DeepSeeks tal om 155 billioner tokens om dagen pr. klynge er ikke blevet uafhængigt efterprøvet i den tilgængelige omtale.
Sources
deepseekv4pro.comDeepSeek open-sources DeepInfer inference framework and ...
letsdatascience.comDeepSeek Open-Sources DeepInfer, Its Production Inference Engine for V4.1-Flash
github.comGitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
siliconangle.comDeepSeek open-sources DeepInfer, the inference framework behind its production services - SiliconANGLE