Jueves 5 de noviembre de 2026 ·
Guía: Qwen3.8 Flash-Next en una RTX 5080 con 64 GB de RAM supera los 250 tok/s
Útil para
El autor usa el motor Basalt con el modelo cuantizado UD-IQ3_XXS de Unsloth y el redactor Lamina en una RTX 5080 de 16 GB. En una sesión real de programación con agentes alcanza 195,6 tok/s de media y unos 5.700 tok/s al leer el prompt. Según sus pruebas, Basalt es unas 3,5 veces más rápido que llama.cpp al decodificar sin draft y unas 5 veces con él.
Qué significa
Permite ejecutar un modelo grande de programación con agentes en una tarjeta de consumo de 16 GB a velocidad interactiva, con una calidad que el autor considera casi igual a la de BF16.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del jueves 5 de noviembre de 2026 ->