LAMB: un modelo de lenguaje moderno para el latín basado en ModernBERT
Se presenta LAMB, un codificador para latín basado en ModernBERT, preentrenado con más de 74.000 millones de tokens latinos. Los autores crean también dos corpus: Acervus, con 24.000 millones de tokens e incluye transcripciones OCR reparadas con un modelo ByT5, y Corpus Trinum, con más de 100 millones de tripletas semánticas, el primero de este tipo en latín. En un benchmark de 17 subtareas, LAMB supera a los demás modelos en 16.
Qué significa
Los modelos de lenguaje para latín podrán adaptarse a tareas de similitud semántica con datos propios, algo que hasta ahora no tenía un corpus de tripletas específico.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL