Alinear LLMs con distribuciones humanas generaliza a preguntas del mismo dominio, pero no de forma predecible
Investigadores estudian cómo ajustar grandes modelos de lenguaje para que sus respuestas reproduzcan la distribución de respuestas humanas, algo útil para simular encuestas. Los modelos alineados generalizan a preguntas nuevas del mismo dominio, y el paso a otros temas depende de la relación entre ellos. Sin embargo, pueden degradarse de forma inesperada, por ejemplo perdiendo capacidad creativa.
Qué significa
Si se usan modelos de lenguaje para simular encuestas o comportamiento humano, sus resultados pueden no mantenerse al cambiar de tema, y el ajuste puede restar capacidad creativa. Es un aviso para quien use estas simulaciones en estudios de opinión.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL