Sábado 31 de octubre de 2026 ·
Qwen 3.8 Flash Next (68 GB) corre a 22 tok/s en una RTX 3060 de 12 GB sin eliminar expertos
Útil para
Un usuario ejecutó el modelo Qwen 3.8 Flash Next, de 68 GB con cuantización IQ2_XS, en una RTX 3060 de 12 GB con 16 GB de RAM DDR4, con unos 22 tok/s sostenidos y picos de 48 tok/s, sin pérdida de precisión frente al original. Con llama.cpp estándar la misma carga baja a 1,47 tok/s. Strata alcanza más de 40 tok/s, pero necesita entre 48 y 64 GB de RAM.
Qué significa
Permite usar modelos de IA de mezcla de expertos muy grandes en PCs de gama media sin recortar sus componentes, lo que acerca los modelos potentes a más usuarios sin servidores caros.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del sábado 31 de octubre de 2026 ->