Jueves 22 de octubre de 2026 ·
capy-flash v0.7.1 ejecuta Qwen3.8-Flash-Next con 64 GB de RAM y Qwen3.8-27B en una sola GPU de 16 GB
Útil para
El motor de inferencia de código abierto capy-flash llega a la versión 0.7.1 y permite correr Qwen3.8-Flash-Next (125B MoE) con 64 GB de RAM, usando los expertos cuantizados a unos 3 bits. Con una GPU de 16 GB alcanza 121 tokens por segundo y con dos GPU llega a 234. El modelo Qwen3.8-27B a 3 bits funciona en una sola tarjeta de 16 GB a 174 tokens por segundo, y a 288 con dos.
Qué significa
Quien tenga un PC de consumo con 64 GB de RAM y una o dos tarjetas de 16 GB puede ejecutar modelos de 125.000 millones de parámetros en local, con una pérdida de calidad algo mayor en el modelo de 27B.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del jueves 22 de octubre de 2026 ->