Domingo 1 de noviembre de 2026 ·

Modelos DeepSeek y Qwen corren en local a 35 y 130 tokens por segundo con una RTX 3090 Ti

Relevancia 61 de 100

Útil para Programadores 85%

Un usuario de Reddit comparte sus cifras con un equipo de seis años: Threadripper 3990X, 128 GB de RAM DDR4 y una RTX 3090 Ti de 24 GB. Obtiene unos 35 tokens por segundo en DeepSeek-V4.1-Flash-1017, un modelo MoE de 552.000 millones de parámetros totales, y entre 130 y 140 en Qwen3.8-Flash-Next. Las cifras dependen de cuantizaciones concretas y de la configuración del sistema.

Qué significa

Demuestra que modelos grandes pueden usarse en local con hardware de consumo si se cuantizan y se reparten entre GPU y RAM. Es útil para quien quiera ejecutar IA sin depender de la nube, aunque exige cierta configuración técnica.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 1 de noviembre de 2026 ->