Martes 20 de octubre de 2026 ·
DeepSeek publica DeepInfer, su framework de inferencia de producción, bajo licencia Apache 2.0
Útil para
DeepSeek ha publicado DeepInfer, el framework de inferencia que usa en sus servicios de IA a gran escala, con licencia Apache 2.0 y anuncio del 20 de octubre de 2026. Solo admite DeepSeek-V4.1-Flash y la versión pública es offline, sin el sistema de caché KV, la desagregación prefill/decodificación ni el servicio online de la infraestructura interna. Soporta GPU NVIDIA SM100 y NPU Huawei Ascend 950. Las cifras de rendimiento, como 155 billones de tokens diarios por clúster o 230 tokens por segundo en generación, son autoinformadas y no están verificadas por terceros.
Qué significa
Las empresas que quieran alojar V4.1-Flash en sus propios servidores disponen ahora del motor de inferencia de DeepSeek, aunque sin la parte más ligada a su infraestructura. El soporte de Ascend al mismo nivel que NVIDIA amplía las opciones de hardware fuera del ecosistema dominante.
Cómo te afecta
- Programadores
Tu vLLM actual sirve de base para DeepInfer, así que probarlo con DeepSeek-V4.1-Flash en procesos offline cuesta poco. Las cifras de 230 tokens por segundo y 96 % de acierto de caché son de Crypto Briefing, no de un benchmark propio.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- DeepSeekLeer la noticia completa en DeepSeek
- DeepSeekLeer la noticia completa en DeepSeek
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
- Crypto BriefingLeer la noticia completa en Crypto Briefing
- El Ecosistema StartupLeer la noticia completa en El Ecosistema Startup
- MarkTechPostLeer la noticia completa en MarkTechPost
- DeepSeekLeer la noticia completa en DeepSeek
- The DecoderLeer la noticia completa en The Decoder
Relacionadas
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->