Qwen 3.8 Flash Next funciona en un portátil con 8 GB de VRAM a hasta 900 t/s de procesamiento y 30 t/s de generación
Útil para
Un usuario de Reddit ejecuta Qwen 3.8 Flash Next (cuantización Q2) con la herramienta Strata en un portátil con RTX 5060 de 8 GB de VRAM, 32 GB de RAM y Linux. Strata reparte la carga entre VRAM, RAM y SSD, y logra hasta 900 t/s en procesamiento de prompts y 30 t/s en generación. Según sus pruebas, el modelo supera en benchmarks a Qwen 3.6 35B A3B y Qwen 3.8 27B, y es más rápido que su configuración anterior.
Qué significa
Modelos de IA de gran tamaño pueden ejecutarse en equipos de gama media con memoria RAM y SSD suficientes, sin necesidad de una GPU de alta gama.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA