Martes 3 de noviembre de 2026 ·

Zyphra presenta Zyphra Hierarchical Attention (ZHA), una atención dispersa de coste subcuadrático

Relevancia 60 de 100 Estados Unidos, California

Útil para Programadores 80%

Zyphra publicó ZHA, un método de atención dispersa basado en un indexador en forma de árbol que busca solo las claves relevantes. Según su artículo técnico, puede aplicarse a modelos preentrenados congelados con unos 4.000 millones de tokens y, en Qwen3.6-35B-A3B, se mantiene cerca de la atención densa en razonamiento, programación y recuperación de hasta 256K de contexto. Añade unos 81.920 parámetros entrenables, alrededor del 0,00024%.

Qué significa

Si el método se confirma, quien ejecute modelos grandes con contextos muy largos podría reducir el coste de atención sin reentrenar desde cero, aunque sin kernels optimizados las mejoras de velocidad siguen siendo teóricas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 3 de noviembre de 2026 ->