DeepSeek abrió el código de DeepInfer, el motor que utiliza para ejecutar sus modelos en producción. La versión pública admite DeepSeek-V4.1-Flash y ofrece inferencia offline; un servicio completo exige integrar componentes adicionales, según el repositorio oficial.
La inferencia es la ejecución de un modelo ya entrenado para procesar peticiones y generar respuestas. El proyecto se distribuye bajo licencia Apache 2.0.
Qué requiere un servicio completo
El README deja fuera el sistema de caché KV, que conserva cálculos reutilizables, la separación de las etapas de procesamiento de entrada y generación de respuestas, y el balanceo de carga entre réplicas. DeepSeek identifica esos componentes como necesarios para completar el servicio.
El hardware admitido es concreto: GPU Nvidia SM100 y aceleradores Huawei Ascend 950. El motor incluye funciones para distribuir el cálculo entre chips y generar salidas estructuradas.
El papel de deepseek-recipe
DeepSeek también ofrece deepseek-recipe, una biblioteca escrita en Rust con acceso desde Python. Según su documentación, convierte peticiones de Messages, Chat Completions y Responses a un formato común, prepara las entradas del modelo y transforma sus salidas en respuestas para esas interfaces.
La biblioteca permite conectar un motor de inferencia con aplicaciones que usan distintos formatos de API. También procesa contenido de razonamiento, llamadas a herramientas e imágenes, dentro del alcance que describe el proyecto.
Su documentación asigna al operador la ejecución del modelo, la ejecución de herramientas y el transporte HTTP. Al cruzar ambos repositorios se distingue el trabajo pendiente: DeepInfer aporta el motor y deepseek-recipe adapta los mensajes; el equipo que los adopte debe integrar la infraestructura y la comunicación del servicio.
