Miércoles 21 de octubre de 2026 ·
TokenGate: poda aprendida de tokens para procesar textos largos más rápido y con menos memoria
Útil para
Los autores presentan TokenGate, un componente pequeño que se añade a modelos ya entrenados, como Qwen3 y Qwen3.5, para descartar los tokens menos relevantes en entradas largas. Usa una atención controlada por puertas, inspirada en Mixture-of-Experts, que pondera los tokens según su importancia. Según el paper, reduce entre 1,4 y 11,3 veces el tiempo hasta el primer token y entre 1,5 y 3,4 veces el pico de memoria, sin perder precisión.
Qué significa
Los modelos que trabajan con código o documentos muy extensos podrían responder antes y necesitar menos memoria, sin tener que volver a entrenarse desde cero.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del miércoles 21 de octubre de 2026 ->