Miércoles 21 de octubre de 2026 ·
Cola2: modelo jerárquico de lenguaje que comprime el significado en un espacio latente continuo
Los investigadores presentan Cola2, un marco de modelado de lenguaje que separa el modelado semántico continuo de la generación de texto discreto. Con 346.030 millones de tokens de entrenamiento, un checkpoint sin convergencia logra una media de 60,10 en ocho tareas y supera a Llama-3-8B en HellaSwag y StoryCloze.
Qué significa
Sugiere que comprimir el significado antes de generar texto puede dar resultados competitivos con menos datos de entrenamiento que los modelos convencionales. Por ahora es investigación académica y no hay productos derivados.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Hugging Face Daily PapersLeer la noticia completa en Hugging Face Daily Papers
También ese día
Todas las noticias de IA del miércoles 21 de octubre de 2026 ->