ConvFill: un modelo de 0,6B conversa por voz con rapidez mientras un modelo grande razona la respuesta
Útil para
Investigadores del UbiComp Lab de la Universidad de Washington presentan ConvFill, que entrena un modelo 'talker' de 0,6 mil millones de parámetros para responder de inmediato mientras un modelo razonador grande genera la respuesta adecuada. Después, el talker lee esa respuesta para continuar la conversación. El trabajo se presenta en EMNLP y Hugging Face ofrece una demo.
Qué significa
Los agentes de voz podrían combinar rapidez y capacidad de razonamiento sin depender de un único modelo grande. Así, un asistente de voz respondería sin pausas incómodas mientras calcula la respuesta de fondo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA