Domingo 1 de noviembre de 2026 ·

Qwen 3.8 Flash Next alcanza 94 tok/s con un usuario y 456 tok/s con 8 a la vez en servidores de alquiler

Útil para Programadores 85%

Un usuario alquiló servidores en vast.ai, con dos CPU AMD EPYC y dos GPU RTX 3090, y gastó unos 40 dólares en pruebas. Con la versión Q8 de Qwen 3.8 Flash Next logró 94 tokens por segundo con una sola petición y 456 con 8 simultáneas, con un contexto de 124k. Según el autor, el rendimiento escala casi de forma lineal hasta 8 flujos.

Qué significa

Muestra que un servidor con mucha memoria RAM y buena CPU puede atender varias peticiones de un modelo de IA a la vez, sin depender solo de VRAM cara. Para quien quiere montar modelos propios, la RAM resulta más barata que más GPU.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 1 de noviembre de 2026 ->