Martes 20 de octubre de 2026 ·
COUNT: un método que usa la memoria del sistema para mejorar modelos de lenguaje sin añadir parámetros entrenados
Útil para
Investigadores presentan COUNT, que guarda en la memoria del host recuentos precalculados de n-gramas y los usa como entrada extra de los modelos de lenguaje sin añadir parámetros aprendidos. En pruebas con modelos de 1.000 millones de parámetros, mejora la pérdida de validación tanto como un modelo con un 57% más de cómputo. Además, permite cambiar la tabla de recuentos de un corpus de dominio específico en inferencia para adaptar el modelo a una nueva tarea sin entrenamiento.
Qué significa
Puede abaratar el escalado de modelos de lenguaje, porque la memoria del sistema es mucho más barata que la memoria de las GPU. Un equipo podría adaptar un modelo a un ámbito concreto cambiando una tabla de recuentos en vez de reentrenarlo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->