Miércoles 21 de octubre de 2026 ·

Qwen3.8-Flash-Next cuantizado a 1.66 bpw funciona de forma estable en 36 GB

Relevancia 48 de 100 China, Zhejiang

Útil para Programadores 85%

Un usuario de Reddit publicó una versión de Qwen3.8-Flash-Next cuantizada a 1.66 bpw en formato exl3 que cabe entera en una RTX 5090 sin descargar expertos a la memoria del sistema. Según el autor, la inferencia es estable, sin bucles de razonamiento, y alcanza entre 200 y 300 tokens por segundo. La GPU de 32 GB deja poco margen para el contexto, por lo que hace falta compactarlo con frecuencia.

Qué significa

Un modelo de lenguaje de gran tamaño puede ejecutarse en una sola tarjeta de consumo a gran velocidad, sin depender de la RAM del sistema. El límite de 32 GB obliga a recortar el contexto en conversaciones largas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 21 de octubre de 2026 ->