DeepSeek, 20 Ekim 2026’da üretim hizmetlerinde kullandığını söylediği çıkarım yazılımının daha büyük bölümünü dışarı açtı. Şirketin yayımladığı DeepInfer, eğitilmiş bir modelin yanıt üretmesini sağlayan çıkarım motoru; ona eşlik eden deepseek-recipe ise isteklerin ve token’ların işlenmesine yardımcı oluyor. Ancak önemli bir ayrım var: açık kaynak sürümü çevrimdışı çıkarım sunuyor, DeepSeek’in barındırılan API hizmetinin yerine geçecek eksiksiz ve kullanıma hazır bir sistem değil.
3
4
33
DeepInfer ve deepseek-recipe ne işe yarıyor?
DeepInfer, bir modeli yanıt üretmek üzere çalıştırmaya yarayan çıkarım çerçevesi. İlk sürüm DeepSeek-V4.1-Flash modelini destekliyor ve Apache 2.0 lisansıyla sunuluyor.
4
5
DeepSeek’in sıraladığı özellikler arasında dağıtık çıkarım, optimize edilmiş çekirdekler, spekülatif çözümleme, eşzamansız zamanlama, toplu işlemden bağımsız çıkarım ve yapılandırılmış çıktı yer alıyor.
33
34 Yapılandırılmış çıktı, model yanıtını JSON şeması, düzenli ifade (regex) veya EBNF dilbilgisi gibi belirli bir biçime uydurabiliyor.
29
30
deepseek-recipe ise istekleri modelin anlayacağı girdilere, model çıktılarını da yanıtlara dönüştüren yardımcı bileşen. Haberlerde yaygın API istek biçimlerini desteklediği belirtiliyor; ancak bu tek başına DeepSeek’in barındırılan API’sindeki tüm işlevlerle birebir uyumlu olduğu anlamına gelmiyor.
3
9
Hangi model ve donanımlar destekleniyor?
DeepInfer’ın ilk sürümünde desteklenen model DeepSeek-V4.1-Flash; listelenen hızlandırıcılar ise NVIDIA SM100 GPU’lar ve Huawei Ascend 950 NPU’lar.
3
5 Bu bilgi, tüm NVIDIA GPU’ların ya da Huawei hızlandırıcılarının desteklendiğini göstermiyor. Mevcut kaynaklar belirli kart varyantlarını da doğrulamıyor.
Performans iddiaları nasıl okunmalı?
DeepSeek, DeepInfer’ı yüksek performanslı bir çerçeve olarak tanımlıyor. Bloomberg’in değerlendirmesine göre yazılım, hesaplama kaynaklarının daha verimli kullanılmasına yardımcı olarak işletmelerin modelleri daha ucuza ve kolay çalıştırmasını sağlayabilir.
33
45 Bunlar olası faydalar; her kurulumda daha düşük işletme maliyeti, enerji tüketimi veya gecikme ya da belirli bir işlem hızı garanti edildiği anlamına gelmiyor.
Küme başına günde 155 trilyon token işlendiği yönündeki rakam haberlere yansıdı. Ancak mevcut haberler bu sayıyı bağımsız biçimde doğrulamıyor ve başka sistemlerle doğrudan karşılaştırma yapmaya yetecek ayrıntıyı sunmuyor.
1
5 The Next Web de DeepSeek’in hız rakamlarının şirket dışından bağımsız olarak test edilmediğini aktarıyor.
49
Neden hazır bir çevrimiçi hizmet değil?
Kamuya açık sürüm çevrimdışı çıkarım sağlıyor. Dağıtım belgelerine ilişkin haberlerde, tam bir hizmet için gereken bazı bileşenlerin pakete dâhil olmadığı belirtiliyor: KV önbelleğinin yönetimi, istemin işlenmesiyle token üretiminin ayrıştırılması (prefill/decode disaggregation) ve çoğaltılmış örnekler arasında yük dengeleme.
4
7
Bu nedenle canlı ve birden fazla kullanıcının erişebildiği bir hizmet kurmak isteyen ekiplerin ek sunucu altyapısını kendilerinin sağlaması gerekiyor. DeepInfer, hazır barındırma arayanlardan çok çıkarım altyapısı konusunda deneyimli kuruluşlar için daha uygun görünüyor. Kendi sisteminde çalıştırmanın tasarruf sağlayıp sağlamayacağı ise donanım ve işletim için gereken emeğe bağlı; yayımlanan yazılım tek başına toplam maliyeti ortaya koymuyor.
İşletmeler için kısa sonuç
DeepInfer, DeepSeek-V4.1-Flash için üretim odaklı bir çıkarım motorunu; deepseek-recipe ise istek ve yanıt işlemlerine eşlik eden bir katmanı erişime açıyor. Bu parçalar, kendi altyapısında barındırma yapmak isteyen teknik ekiplere daha fazla seçenek sunuyor. Ancak şirketlerin, duyurulan optimizasyon özelliklerini bağımsız biçimde ölçülmüş sonuçlarla karıştırmaması ve çevrimdışı çıkarımı güvenilir bir çevrimiçi hizmete dönüştürmek için gereken ek çalışmaları hesaba katması gerekiyor.
3
4
33
49