Miércoles 21 de octubre de 2026 ·
Ejecutan DeepSeek-V4.1-Flash, de 748.000 millones de parámetros, en un PC de segunda mano de unos 2.000 euros
Útil para
Un usuario logró ejecutar DeepSeek-V4.1-Flash-1017 en un PC con una RTX 3090 de 24 GB, 128 GB de DDR4 y un Intel i9-9900X, comprado de segunda mano por menos de 2.000 euros. Usó la versión cuantizada de 1 bit, de 233 GB en disco, a 7,2 tokens por segundo, y la tabla Engram de 110 GB se lee desde el NVMe solo cuando el modelo la necesita. El autor señala que la respuesta contenía un error de física y que, en su equipo, los modelos Qwen funcionan mejor.
Qué significa
Muestra que modelos de cientos de miles de millones de parámetros pueden funcionar en hardware de consumo si se comprimen mucho y se usa el disco, aunque a poca velocidad.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del miércoles 21 de octubre de 2026 ->