DeepSeek ha publicado DeepInfer, el framework de inferencia que dice utilizar en sus servicios a gran escala. El repositorio ofrece inferencia fuera de línea para DeepSeek‑V4.1‑Flash, licencia Apache 2.0 y código para GPU NVIDIA SM100 y NPU Huawei Ascend 950. No es, sin embargo, un servidor listo para instalar en un portátil ni una alternativa completa a vLLM.
La documentación del repositorio enumeraba al consultarla 15.100 estrellas, 1.500 forks, cuatro commits y 130 solicitudes de incorporación. No había versiones publicadas. GitHub Trending daily no lo mostraba entre sus quince entradas en el snapshot del 21 de octubre; las estrellas totales no son «estrellas de hoy» ni una medición de calidad.
Lo publicado termina antes de un servicio completo
DeepInfer incluye kernels optimizados, paralelismo, planificación asíncrona, muestreo determinista y salidas estructuradas. El propio README deja fuera tres piezas esenciales: caché KV, desagregación de las fases de prefill y decode, y balanceo entre réplicas. La frase «motor de producción» describe su procedencia; el paquete abierto se presenta expresamente como inferencia fuera de línea.
| Dato verificable | Consecuencia |
|---|---|
| Solo DeepSeek‑V4.1‑Flash | No es un motor general para cientos de arquitecturas |
| Linux, Python 3.12, GCC 13, CUDA 13 o CANN 9.2 | Requiere un entorno reciente y especializado |
| Benchmark con 4 SM100 en prefill y 64 en decode | Son configuraciones de medición, no un mínimo universal de GPU |
| Sin releases y cuatro commits | La estabilidad de interfaces aún no está demostrada |
El gráfico no compara motores equivalentes
DeepSeek publica barridos de rendimiento para su propio modelo y hardware. No hay en el anuncio una comparación bajo el mismo modelo, longitud, lote y acelerador frente a vLLM, SGLang o TensorRT‑LLM. The File volvió a abrir el repositorio, confirmó la licencia y no encontró una prueba independiente de velocidad.
La ausencia de esa comparación no vuelve inútil el código. Permite inspeccionar decisiones que antes quedaban dentro del servicio, reproducir los barridos cuando se disponga del hardware y estudiar determinismo o salidas estructuradas. Sí obliga a limitar la conclusión: abierto no equivale a portátil, barato ni más rápido.
Qué mirar antes de escogerlo
- Comprobar si el modelo y el acelerador admitidos coinciden con el despliegue real.
- Presupuestar las tres capas de servicio que no incluye el repositorio.
- Esperar una versión etiquetada o fijar un commit y revisar cambios incompatibles.
- Comparar latencia, rendimiento, memoria y fallos con la misma carga, no con cifras de otro contexto.
Texploto no ha instalado ni ejecutado DeepInfer. La evidencia disponible es el repositorio y una inspección periodística independiente, no una reproducción del benchmark. La aportación propia consiste en separar el motor abierto del servicio que aún tendría que construirse alrededor.
El ejemplo oficial de inferencia fuera de línea configura --ep=8 por defecto. Tampoco ese valor acredita un mínimo universal: el número necesario depende del modelo, la memoria y la configuración. Sirve para comprobar que las 64 GPU citadas pertenecen al benchmark de decodificación. La arquitectura del modelo se explica en nuestra pieza sobre DeepSeek V4.1 Flash y su caché.
Precisión del 21/10/2026: se ha retirado «motor de 64 GPU» del titular para distinguir la configuración del benchmark de los requisitos de ejecución. Revisión documental fijada al commit 9bd9cf243fc5; Texploto no ejecutó el código.
Transparencia: artículo elaborado con asistencia de IA a partir de las fuentes enlazadas. No se ha ejecutado el repositorio.
