Xing4.0-29B-A4B (2026): modelo MoE de 29.000 millones de parámetros con solo 4.000 millones activos
Útil para
Xing4.0-29B-A4B es un modelo de lenguaje de alta eficiencia diseñado para flujos de trabajo con agentes, con una arquitectura de mezcla de expertos. Tiene 29.000 millones de parámetros en total, pero un router envía cada token a solo 4 bloques de expertos, por lo que usa unos 4.000 millones de parámetros activos por token. Según Hugging Face, esto le permite almacenar una base de conocimiento de 29.000 millones con el coste de cómputo de un modelo de 4.000 millones.
Qué significa
Ejecutar agentes con este modelo requiere el cómputo de un modelo de 4.000 millones de parámetros, lo que abarata la inferencia para cargas de trabajo empresariales. Ofrece más capacidad que un modelo denso de tamaño similar.
Cómo te afecta
- Programadores
Aunque solo active 4.000 millones de parámetros por token, tienes que cargar los 29.000 millones, así que la memoria necesaria no baja como el cómputo. Compáralo con tu modelo actual antes de usarlo en agentes con latencia exigente.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Activepieces BlogLeer la noticia completa en Activepieces Blog