Miércoles 21 de octubre de 2026 ·

DeepSeek publica en código abierto DeepInfer, su pila de inferencia para IA

Relevancia 50 de 100 China, Zhejiang

Útil para Programadores 75%CTO y tecnología 55%

DeepSeek liberó DeepInfer, su pila de inferencia en producción, una personalización de vLLM que reconoce el trabajo de SGLang y TRRTLLM. Admite caché de prompts de hasta 72 horas, frente a las 12 horas que acaba de anunciar OpenAI. La empresa reserva para sí su caché KV optimizada, la desagregación PD y el balanceo de carga, y afirma servir 155 billones de tokens al día.

Qué significa

Los desarrolladores podrán desplegar en sus propios sistemas una infraestructura de inferencia de nivel de producción con caché de prompts mucho más larga. Eso abarata el servicio de modelos abiertos frente a las ofertas cerradas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 21 de octubre de 2026 ->