Jueves 5 de noviembre de 2026 ·
DeepSeek publica DeepInfer, un motor de inferencia offline para DeepSeek-V4.1-Flash
Útil para
DeepSeek ha publicado DeepInfer, un motor de inferencia offline que ejecuta el modelo DeepSeek-V4.1-Flash en GPUs NVIDIA de arquitectura SM100 y en Huawei Ascend 950. Su primer commit está fechado el 20 de octubre de 2026. El README indica que la versión no incluye caché KV, disaggregation de visión, prefill y decodificación, ni balanceo de carga entre réplicas, piezas necesarias en un servicio en línea. El equipo de vLLM informó el 23 de octubre de un rendimiento de decodificación dentro del 6% de DeepInfer, con la medición hecha en su lado.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del jueves 5 de noviembre de 2026 ->