Sábado 24 de octubre de 2026 ·
Publicadas versiones GGUF cuantizadas de DeepSeek-V4.1-Flash-1017 que corren en una GPU de 12 GB
Útil para
El proyecto ISTA publica tres versiones cuantizadas de DeepSeek-V4.1-Flash-1017 con GSQ y RCO, a entre 1,75 y 2,25 bits por peso: IQ1_M, IQ2_XXS e IQ2_XS. El modelo es de tipo mezcla de expertos, con 763.200 millones de parámetros, 384 expertos por capa, 6 activos por token y una ventana de contexto de 1 millón de tokens. Las versiones pesan entre 120,7 y 155,2 GB y se ejecutan en una sola GPU de 12 GB con Strata.
Qué significa
Un modelo de frontera de casi un billón de parámetros puede ejecutarse en una sola tarjeta gráfica de consumo, algo que antes requería mucha más infraestructura.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del sábado 24 de octubre de 2026 ->