Viernes 6 de noviembre de 2026 ·
Montaje con dos 5060 Ti para ejecutar en local el modelo Qwen de 27B a buena velocidad
Útil para
Un usuario describe su configuración con dos tarjetas 5060 Ti que ejecutan el modelo Qwen3.8-27B en formato NVFP4, repartido entre ambas con paralelismo de tensores. Reporta entre 70 y 95 tokens por segundo al generar texto y unos 1.500 tokens por segundo al procesar un contexto de 176.000 tokens. Recomienda conectar ambas GPU a las líneas del procesador y dedicar una gráfica aparte a la pantalla, y señala que de momento funciona con PCIe Gen3.
Qué significa
Muestra que dos tarjetas de gama media pueden manejar un modelo de 27.000 millones de parámetros con contextos largos en casa, y que la colocación de las tarjetas y su memoria de vídeo pesan tanto como el propio modelo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del viernes 6 de noviembre de 2026 ->