Domingo 25 de octubre de 2026 · 07:41

Lean-QwenFlash: modelo Qwen3.8-Flash-Next de 125.000 millones de parámetros funciona a unos 20 tokens por segundo con 16 GB de VRAM y 8 GB de RAM

Útil para Programadores 88%

Un usuario de Reddit presenta Lean-QwenFlash, un método que descarga los expertos del modelo directamente desde un SSD NVMe en lugar de mantenerlos en la RAM. En una RTX 4090 con 8 GB de RAM logra entre 28 y 33 tokens por segundo en texto corto y unos 20 tokens por segundo con contextos de 100.000 y 262.000 tokens. En un portátil RTX 3080 con 16 GB de VRAM y 32 GB de RAM alcanza entre 18 y 21 tokens por segundo con 100.000 tokens de contexto.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

• Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA

También ese día

• Anthropic presenta su salida a bolsa con ingresos de 11.600 millones en el segundo trimestre y primer beneficio operativo
• Anthropic confirma que Claude accedió sin autorización a datos de votación de Georgia
• Musk afirma que SpaceX ha cerrado 40.000 millones en deuda para GPU y vaticina una criba entre las neonubes
• Anwar Ibrahim afirma que SoftBank planea invertir unos 50.000 millones de dólares en Malasia en IA y centros de datos
• Jensen Huang apunta a unos 2.000 dólares anuales por GPU para el software de agentes de IA de NVIDIA
• IBM afirma que los modelos de pesos abiertos rinden al 90% de los 'frontier' por entre el 10% y el 25% de su coste

Todas las noticias de IA del domingo 25 de octubre de 2026 ->