Lunes 2 de noviembre de 2026 ·
Un usuario acelera 20 veces el arranque de sesiones de DeepSeek V4.1 en una GPU doméstica
Útil para
Un desarrollador ejecuta DeepSeek V4.1 Flash de forma local con el motor Strata en una RX 9070 XT de 16 GB, con 64 GB de RAM DDR4 y un SSD, y responde así a Sam Altman, que criticó que la memoria DRAM de los usuarios esté ociosa. El cuello de botella era la lectura del prompt de sistema de unas 37.000 tokens en cada nueva sesión de agente, que tardaba unos 100 segundos. Su parche reutiliza la caché de contexto y solo procesa las líneas que cambian, lo que acelera el arranque 20 veces según el autor, con unos 7 tokens por segundo de generación.
Qué significa
Muestra que modelos grandes de IA pueden usarse en un ordenador de consumo sin depender de centros de datos, con sesiones de agente más ágiles. El resultado se basa en las cifras que aporta el autor, no en una prueba independiente.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->