DeepSeek ha publicado parte del software que utiliza para ejecutar sus modelos a gran escala. DeepInfer es el motor de inferencia que, según la empresa, está detrás de sus servicios de producción; junto con él, lanzó deepseek-recipe, una biblioteca para procesar solicitudes y convertirlas en entradas y respuestas del modelo.
3
4
33
La novedad puede interesar a las organizaciones que quieran alojar el modelo en su propia infraestructura. Pero conviene ponerle límites a la expectativa: la versión pública permite hacer inferencia sin conexión, no sustituye por sí sola a un servicio en línea listo para desplegar.
3
4
Qué aportan DeepInfer y deepseek-recipe
Un motor de inferencia ejecuta un modelo ya entrenado para generar respuestas. DeepInfer es un marco de trabajo para esa tarea y, en su lanzamiento, admite DeepSeek-V4.1-Flash. Se distribuye bajo la licencia Apache 2.0, que permite su uso comercial conforme a sus condiciones.
4
5
La documentación menciona funciones como inferencia distribuida, kernels optimizados, decodificación especulativa, planificación asíncrona e inferencia invariante al tamaño del lote. También incluye salidas estructuradas: una opción para limitar la respuesta a un formato concreto, como un esquema JSON, una expresión regular o una gramática EBNF.
29
33
34
Por su parte, deepseek-recipe se ocupa de transformar solicitudes en entradas que el modelo pueda procesar y de dar forma a las respuestas resultantes. Se ha descrito como compatible con formatos de solicitud habituales, pero eso no demuestra que reproduzca todos los comportamientos de la API alojada de DeepSeek.
3
9
Un modelo y dos familias de aceleradores
La lista inicial de compatibilidad incluye DeepSeek-V4.1-Flash, GPU NVIDIA SM100 y NPU Huawei Ascend 950.
3
5 La especificación no confirma que funcione con cualquier GPU de NVIDIA o acelerador de Huawei, ni detalla todas las variantes de cada equipo.
Las mejoras de rendimiento no son una garantía de ahorro
DeepSeek presenta DeepInfer como un marco de alto rendimiento. Bloomberg señala que el software podría ayudar a las empresas a ejecutar sus modelos con mayor eficiencia y a menor coste, al aprovechar mejor los recursos de cómputo.
33
45 Son beneficios posibles, no una promesa de reducir el gasto, el consumo energético o la latencia en cualquier despliegue.
También se ha difundido una cifra de 155 billones de tokens diarios por clúster. La cobertura disponible no la valida de forma independiente ni aporta suficiente contexto para compararla directamente con las cifras de otros sistemas.
1
5 The Next Web también indica que los datos de velocidad de DeepSeek no han sido probados de manera independiente.
49
El trabajo que queda para llevarlo a internet
DeepInfer ofrece inferencia sin conexión. La cobertura de la documentación de despliegue señala que la versión pública no incluye varios componentes necesarios para operar un servicio en línea: gestión de la caché KV, separación del procesamiento inicial de la solicitud y la generación de tokens (prefill/decode), y balanceo de carga entre réplicas.
4
7
En la práctica, un equipo que quiera atender a varios usuarios en tiempo real tendrá que aportar esa infraestructura y operarla. Por eso, DeepInfer parece más adecuado para organizaciones con experiencia en ingeniería de inferencia que para quienes buscan un servicio de alojamiento ya configurado. Que alojar el modelo por cuenta propia resulte más barato dependerá del hardware y del trabajo operativo necesario; el lanzamiento no basta para calcular ese coste.
En resumen
DeepInfer abre a terceros un motor de inferencia orientado a producción para DeepSeek-V4.1-Flash, mientras que deepseek-recipe aporta herramientas para procesar solicitudes y respuestas. Son más piezas para que los equipos técnicos puedan alojar el modelo por su cuenta, pero no un servicio completo: conviene distinguir las funciones anunciadas de los resultados medidos de forma independiente y presupuestar la infraestructura adicional para operar en línea.
3
4
33
49