Strata mejora el VRAM en Windows, acelera NUMA y registra fallos en GPUs nuevas
Strata es un motor de inferencia local, con licencia MIT y desarrollado por Niko1221, que ejecuta modelos grandes como Qwen3.8-Flash-Next (125B MoE) en GPUs NVIDIA de 8 GB o más junto con la RAM del sistema. Su última actualización sustituye la limitación de páginas bloqueadas en Windows con varias GPU por una implementación con VirtualLock, y reduce de 1,5 a 0,3 segundos la carga de matrices de proyección gracias a ocho hilos en paralelo. Al vincular CPU y GPU al mismo nodo NUMA, el rendimiento de prompts sube hasta un 40%. Hay informes de cierres y errores de CUDA en Blackwell (sm_120) y RTX 5060 Ti con cuantizaciones Q5_K y Q8_0. También se añaden mejoras para Intel Arc, como soporte de visión para la A770.
Qué significa
Quien use Strata en Windows con varias GPU notará una caché de RAM más estable. Quien tenga una Blackwell o una RTX 5060 Ti debe contar con posibles fallos de arranque o cierres con los cuantizados Q5_K y Q8_0.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ