Miércoles 4 de noviembre de 2026 ·
Strata y project-maya: nuevas técnicas para acelerar modelos Transformer y MoE
Útil para
Una técnica aprovecha la alta similitud de las entradas del router entre capas Transformer contiguas (88,83 % de media) para calcular por adelantado el enrutado de la siguiente capa, sin entrenamiento adicional. Su precisión de predicción en decodificación es del 78,79 %, aunque varía según el modelo. La otra comprime aún más los modelos cuantizados y asigna más bits a los expertos MoE más importantes, con lo que se logra más precisión con la misma memoria.
Qué significa
Los modelos de lenguaje basados en MoE pueden ejecutarse con la misma memoria y mayor precisión, al repartir mejor los bits entre expertos. Esto mejora el rendimiento de quienes despliegan modelos grandes con hardware limitado.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del miércoles 4 de noviembre de 2026 ->