AntwortenVeröffentlicht22 Quellen
DeepSeek gibt sein Inferenz-Framework frei: Was Unternehmen damit selbst betreiben können
DeepSeek veröffentlichte DeepInfer am 20. Oktober 2026 für die Offline Inferenz von DeepSeek V4.1 Flash. Zum Start nennt DeepSeek NVIDIA SM100 GPUs und Huawei Ascend 950 NPUs als unterstützte Hardware.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- DeepSeek veröffentlichte DeepInfer am 20. Oktober 2026 für die Offline Inferenz von DeepSeek V4.1 Flash.
- Zum Start nennt DeepSeek NVIDIA SM100 GPUs und Huawei Ascend 950 NPUs als unterstützte Hardware.
- Die Angabe von 155 Billionen Tokens pro Tag und Cluster stammt aus Berichten über DeepSeeks eigene Zahlen; unabhängig bestätigt wurde sie in den verfügbaren Quellen nicht.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Chinese AI developer DeepSeek open-source on October 20, 2026, with its DeepInfer inference framework and companion deepseek-recipe. Article summary: On October 20, 2026, DeepSeek released DeepInfer, the inference software it says powers its production services, alongside deepseek-recipe, a companion component for converting API requests into model tokens and back int. Topic tags: general, general web, user generated, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
DeepSeek hat am 20. Oktober 2026 DeepInfer veröffentlicht – das Inferenz-Framework, das nach Unternehmensangaben die eigenen Produktionsdienste antreibt. Zusammen mit deepseek-recipe, einer Komponente für die Verarbeitung von Anfragen und Tokens, erhalten externe Teams damit weitere Bausteine für den Eigenbetrieb. Der entscheidende Haken: Die öffentliche Version bietet zunächst Offline-Inferenz und ersetzt keinen fertig eingerichteten DeepSeek-API-Dienst.3
4
33
Was DeepInfer und deepseek-recipe leisten
DeepInfer ist ein Framework, mit dem ein trainiertes Modell Antworten erzeugt. Zum Start unterstützt es DeepSeek-V4.1-Flash und steht unter der Apache-2.0-Lizenz.4
5
Zu den aufgeführten Funktionen gehören verteilte Inferenz, optimierte Rechenkerne, spekulatives Decoding, asynchrone Ablaufplanung, batch-invariante Inferenz und strukturierte Ausgaben.33
34 Letztere können das Modell beispielsweise darauf beschränken, Antworten nach einem vorgegebenen Format wie einem JSON-Schema, regulären Ausdruck oder einer EBNF-Grammatik auszugeben.
29
30
deepseek-recipe ergänzt das Framework: Die Komponente übersetzt Anfragen in Modelleingaben und verarbeitet die Ausgaben wieder zu Antworten. Berichten zufolge unterstützt sie vertraute API-Anfrageformate. Das allein belegt jedoch nicht, dass sie sich in jedem Detail wie DeepSeeks gehostete API verhält.3
9
Unterstützte Modelle und Hardware
Zum Start führt DeepInfer DeepSeek-V4.1-Flash sowie zwei Beschleunigerfamilien auf: NVIDIA-SM100-GPUs und Huawei-Ascend-950-NPUs.3
5 Daraus folgt nicht, dass beliebige NVIDIA-Grafikprozessoren oder Huawei-Beschleuniger unterstützt werden. Auch die Kompatibilität einzelner Kartenvarianten ist durch die verfügbaren Quellen nicht bestätigt.
Was die Leistungsversprechen aussagen – und was nicht
DeepSeek positioniert DeepInfer als leistungsstarkes Framework. Bloomberg zufolge könnte die Software Unternehmen helfen, DeepSeeks Modelle günstiger und einfacher zu betreiben, indem sie Rechenressourcen effizienter nutzen.33
45 Das beschreibt einen möglichen Vorteil, ist aber keine Garantie für geringere Kosten, weniger Energieverbrauch, kürzere Antwortzeiten oder einen bestimmten Durchsatz in jeder Umgebung.
In der Berichterstattung taucht auch DeepSeeks Angabe von 155 Billionen Tokens pro Tag und Cluster auf. Die verfügbaren Quellen bestätigen den Wert jedoch nicht unabhängig und liefern keine ausreichenden Details für einen direkten Vergleich mit anderen Systemen.1
5 Auch The Next Web weist darauf hin, dass DeepSeeks Geschwindigkeitsangaben nicht unabhängig getestet wurden.
49
Warum DeepInfer kein fertiger Online-Dienst ist
Die öffentliche Version ist für Offline-Inferenz gedacht. In der Berichterstattung zur Bereitstellungsdokumentation werden zudem mehrere Komponenten genannt, die nicht enthalten sind: Verwaltung des KV-Caches, die Trennung von Prompt-Verarbeitung und Token-Erzeugung (Prefill/Decode-Disaggregation) sowie Lastverteilung zwischen Replikaten.4
7
Wer daraus einen Live-Dienst für mehrere Nutzerinnen und Nutzer machen will, muss zusätzliche Serving-Infrastruktur selbst bereitstellen. Das macht DeepInfer eher für Teams mit Erfahrung im Betrieb von Inferenzsystemen interessant als für Organisationen, die einen schlüsselfertigen Hosting-Dienst suchen. Ob sich der Eigenbetrieb rechnet, hängt unter anderem von Hardware und Betriebsaufwand ab – aus der Veröffentlichung allein lässt sich das nicht ableiten.
Das Wichtigste für Unternehmen
DeepInfer öffnet ein produktionsorientiertes Inferenz-Framework für DeepSeek-V4.1-Flash; deepseek-recipe ergänzt die Verarbeitung von Anfragen und Antworten. Für Infrastrukturteams entstehen damit weitere Bausteine zum Selbstbetrieb. Sie sollten jedoch beworbene Optimierungen von unabhängig gemessenen Ergebnissen unterscheiden und einplanen, dass aus Offline-Inferenz erst noch ein zuverlässiger Online-Dienst werden muss.3
4
33
49
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „DeepSeek gibt sein Inferenz-Framework frei: Was Unternehmen damit selbst betreiben können“?
DeepSeek veröffentlichte DeepInfer am 20. Oktober 2026 für die Offline Inferenz von DeepSeek V4.1 Flash.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
DeepSeek veröffentlichte DeepInfer am 20. Oktober 2026 für die Offline Inferenz von DeepSeek V4.1 Flash. Zum Start nennt DeepSeek NVIDIA SM100 GPUs und Huawei Ascend 950 NPUs als unterstützte Hardware.
Was soll ich als nächstes in der Praxis tun?
Die Angabe von 155 Billionen Tokens pro Tag und Cluster stammt aus Berichten über DeepSeeks eigene Zahlen; unabhängig bestätigt wurde sie in den verfügbaren Quellen nicht.
Quellen
deepseekv4pro.comDeepSeek open-sources DeepInfer inference framework and ...
letsdatascience.comDeepSeek Open-Sources DeepInfer, Its Production Inference Engine for V4.1-Flash
github.comGitHub - deepseek-ai/DeepInfer: DeepInfer: High-performance, large-scale inference framework for DeepSeek models
siliconangle.comDeepSeek open-sources DeepInfer, the inference framework behind its production services - SiliconANGLE