Qwen3.8-Flash-Next de 125B ejecutado en local con Strata: experimento con un problema de apagado de luces
Útil para
Un usuario ejecutó el modelo MoE Qwen3.8-Flash-Next, de unos 125.000 millones de parámetros, en un PC de consumo con el motor de inferencia de código abierto Strata. Usó una RTX 5090 con 32 GB de VRAM y 192 GB de RAM para resolver un problema de apagado de luces (消灯問題) en un tablero de unas mil billones de casillas creado por él. En la primera prueba el modelo tardó 463,5 segundos en dar la solución correcta; con un método propuesto por el autor, generó la demostración matemática en 120,3 segundos.
Qué significa
Modelos de gran tamaño pueden funcionar en equipos domésticos aprovechando la RAM del sistema, sin necesidad de GPU de centro de datos. Quien tenga un PC potente podrá probar modelos que antes solo corrían en la nube.
Cómo te afecta
- Programadores
Con una RTX 5090 de 32 GB y 192 GB de RAM, Strata corre un MoE de 125.000 millones de parámetros, pero una prueba tardó 463,5 segundos. Úsalo para tareas batch o análisis offline, no como asistente interactivo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ