Martes 20 de octubre de 2026 ·
DeepSeek publica parte del código de DeepInfer, el motor de inferencia que usa en producción
Útil para
DeepSeek ha publicado el código de DeepInfer, un motor de inferencia que, según la empresa, corre en producción para su modelo V4.1 Flash. Según los materiales, en un solo clúster procesa 155 billones de tokens al día y genera unos 38 dólares de ingresos por hora de GPU en precio de valle. El repositorio incluye sobre todo código Python y kernels en TileLang para GPU NVIDIA y Huawei Ascend, junto con 23 archivos derivados de vLLM, pero no el servidor HTTP ni el sistema de caché KV de producción.
Qué significa
Quienes sirven modelos en GPU de NVIDIA o Huawei tienen ahora una referencia pública de cómo DeepSeek organiza la inferencia a gran escala.
Cómo te afecta
- Programadores
Puedes leer los kernels en TileLang para NVIDIA y Ascend y los 23 archivos derivados de vLLM para comparar con tu stack. No esperes desplegarlo tal cual: faltan el servidor HTTP y la caché KV de producción.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->