Martes 27 de octubre de 2026 ·

Strata: un motor de inferencia de código abierto que ejecuta un modelo de 125.000 millones de parámetros en un PC con RTX 4090

Relevancia 47 de 100 Japón, Tokio

Útil para Programadores 90%

Strata, publicado en septiembre de 2026 con código abierto, hizo funcionar el modelo Qwen3.8-Flash-Next, de 83,86 GB, en un equipo con RTX 4090 de 24 GB de VRAM y 64 GB de RAM, a unos 80 tokens por segundo. El motor reparte los datos entre VRAM, RAM y SSD y coordina GPU y CPU, aprovechando que el modelo es de tipo MoE y activa unos 6.000 millones de parámetros por token. Con una RTX 3070 Ti y 32 GB de RAM la velocidad baja a 27,5 tokens por segundo y el texto llega a mezclar chino e inglés, y en un equipo compartido por unos 10 personas las respuestas pueden tardar minutos.

Qué significa

Cambia la idea de que correr modelos grandes en local exige comprar GPU con mucha VRAM, porque la gestión de memoria por software permite usar equipos domésticos, aunque con límites claros de velocidad y calidad.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 27 de octubre de 2026 ->