Viernes 30 de octubre de 2026 ·
Strata: un proyecto que organiza un modelo MoE de 125.000 millones de parámetros en tres niveles de memoria
Útil para
El proyecto Strata organiza un modelo Mixture of Experts en tres niveles de memoria, similares a las cachés de un procesador. Según el artículo, Qwen3.8-Flash-Next tiene 125.000 millones de parámetros y 24.576 expertos, pero solo unos diez se activan por token. La VRAM guarda las capas principales y los expertos más usados, la RAM guarda todos los expertos y el disco guarda una tabla n-gram de varias decenas de gigabytes.
Qué significa
Un usuario con una GPU de consumo podría, en teoría, ejecutar un modelo de gran tamaño sin cargarlo entero en la tarjeta gráfica, lo que amplía qué hardware puede correr modelos grandes.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Habr IA (RU)Leer la noticia completa en Habr IA (RU)
También ese día
Todas las noticias de IA del viernes 30 de octubre de 2026 ->