Miércoles 21 de octubre de 2026 ·

Cola2: modelo jerárquico de lenguaje que comprime el significado en un espacio latente continuo

Los investigadores presentan Cola2, un marco de modelado de lenguaje que separa el modelado semántico continuo de la generación de texto discreto. Con 346.030 millones de tokens de entrenamiento, un checkpoint sin convergencia logra una media de 60,10 en ocho tareas y supera a Llama-3-8B en HellaSwag y StoryCloze.

Qué significa

Sugiere que comprimir el significado antes de generar texto puede dar resultados competitivos con menos datos de entrenamiento que los modelos convencionales. Por ahora es investigación académica y no hay productos derivados.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 21 de octubre de 2026 ->