ההשקה של DeepSeek ב־20 באוקטובר 2026 פותחת בפני צוותים חיצוניים גישה לחלק נוסף מתוכנת ההסקה של החברה. DeepInfer הוא המנוע ש־DeepSeek אומרת שמפעיל את שירותי הייצור שלה, ואילו deepseek-recipe מטפל בעיבוד בקשות ובטוקנים. הסייג החשוב: הגרסה הפומבית מאפשרת הסקה לא־מקוונת, ולא מספקת תחליף מלא ומוכן להפעלה ל־API המתארח של DeepSeek.
3
4
33
מה עושים DeepInfer ו־deepseek-recipe?
DeepInfer היא מסגרת הסקה — תוכנה שמפעילה מודל שאומן מראש כדי לייצר תשובות. בשלב הראשון היא תומכת ב־DeepSeek-V4.1-Flash, ומופצת ברישיון Apache 2.0, לפי הדיווחים על ההשקה.
4
5
בין היכולות שמפורטות בפרויקט: הסקה מבוזרת, ליבות חישוב שעברו אופטימיזציה, פענוח ספקולטיבי, תזמון אסינכרוני, הסקה שאינה תלויה בגודל האצווה ופלטים מובְנים.
33
34 פלט מובנה מאפשר להגביל את תשובת המודל לפורמט מוגדר, למשל סכמת JSON, ביטוי רגולרי או דקדוק EBNF.
29
30
deepseek-recipe הוא הרכיב הנלווה שמתרגם בקשות למבנה שהמודל יכול לעבד, ומעבד את הפלט בחזרה לתשובה. לפי הדיווחים, הוא תומך בפורמטים מוכרים של בקשות API; עם זאת, אין בכך כשלעצמו הוכחה להתאמה מלאה לכל ההתנהגויות של ה־API המתארח של DeepSeek.
3
9
באיזה מודל ובאיזו חומרה אפשר להשתמש?
במועד ההשקה, DeepInfer מציינת תמיכה ב־DeepSeek-V4.1-Flash ובשתי משפחות מאיצים: כרטיסי NVIDIA SM100 ומעבדי Huawei Ascend 950.
3
5 המפרט הזה אינו מעיד על תמיכה בכל כרטיס NVIDIA או בכל מאיץ של Huawei, והמקורות הזמינים אינם מאשרים תאימות לדגמים ספציפיים נוספים.
ומה לגבי ההבטחות לביצועים ולחיסכון?
DeepSeek מציגה את DeepInfer כמסגרת עתירת ביצועים, ו־Bloomberg כותבת שהתוכנה עשויה להוזיל ולהקל את הפעלת המודלים של החברה לעסקים, באמצעות ניצול יעיל יותר של משאבי מחשוב.
33
45 מדובר ביתרונות אפשריים ומוצהרים — לא בהבטחה לחיסכון בעלויות או באנרגיה, לזמן השהיה מסוים או לקצב עיבוד קבוע בכל פריסה.
בדיווחים הופיע גם נתון של DeepSeek שלפיו אשכול אחד מעבד 155 טריליון טוקנים ביום. הדיווחים הזמינים אינם מאמתים את הנתון באופן עצמאי ואינם מספקים די פרטים כדי להשוות אותו ישירות למערכות אחרות.
1
5 גם The Next Web מדווחת שנתוני המהירות של DeepSeek לא נבדקו באופן עצמאי.
49
למה זה עדיין לא שירות מקוון מוכן?
הגרסה הפומבית מספקת הסקה לא־מקוונת. בסיקור תיעוד הפריסה מצוינים גם רכיבים הנדרשים להפעלת שירות שאינם כלולים: ניהול מטמון KV, הפרדה בין עיבוד הפרומפט ליצירת הטוקנים (prefill/decode disaggregation), ואיזון עומסים בין עותקים של המודל.
4
7
לכן, צוותים שרוצים להציע שירות פעיל לכמה משתמשים במקביל יצטרכו לדאוג בעצמם לתשתיות נוספות. DeepInfer מתאימה יותר לארגונים שכבר יש להם מומחיות בהנדסת הסקה, ופחות לצוותים שמחפשים שירות אירוח מוכן. השאלה אם אירוח עצמי אכן מוזיל עלויות תלויה בחומרה ובמאמץ התפעולי — וההשקה לבדה אינה קובעת את העלות הכוללת.
השורה התחתונה
DeepInfer פותחת מנוע הסקה המיועד לשימושי ייצור עבור DeepSeek-V4.1-Flash, ו־deepseek-recipe מוסיף שכבה לעיבוד בקשות ותשובות. יחד הם נותנים לצוותי תשתיות כלים נוספים לאירוח עצמי, אך חשוב להבדיל בין יכולות אופטימיזציה שמוצגות בפרויקט לבין תוצאות שנמדדו באופן עצמאי — ולהביא בחשבון את העבודה הנדרשת כדי להפוך הסקה לא־מקוונת לשירות מקוון אמין.
3
4
33
49