Jueves 29 de octubre de 2026 ·

Método LIMe reduce un 15% el cómputo para entrenar modelos de lenguaje sin perder calidad

Relevancia 35 de 100

Investigadores de T-Tech presentaron LIMe en EMNLP 2026. El método añade a la atención pesos aprendibles que permiten a cada cabeza reutilizar representaciones de capas anteriores, lo que evita el colapso de representaciones. En modelos de unos mil millones de parámetros alcanza la misma pérdida de entrenamiento que LLaMA base con un 15% menos de cómputo.

Qué significa

Abarata el entrenamiento de modelos de lenguaje propios: un equipo o laboratorio necesita menos horas de cálculo y GPUs para llegar a la misma calidad, lo que reduce los costes de desarrollo.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 29 de octubre de 2026 ->