Hybrid Reasoning Agents: nuevo paper de Stanford, Together AI, UIUC y Meta
Un paper de Stanford, Together AI, UIUC y Meta presenta los Hybrid Reasoning Agents, modelos que razonan sobre todo de forma interna y oculta y solo usan texto normal cuando necesitan herramientas o dan la respuesta final. Según la publicación, en pruebas de matemáticas, ciencia y medicina puntúan alrededor de un 10% más, usan la mitad de tokens, van el doble de rápido y cuestan bastante menos que los modelos normales. El autor aclara que el método es una adaptación para LLM que razonan en el espacio de palabras y recomienda usarlo solo si se confía en el modelo.
Qué significa
Si el método se aplica, un agente podría responder más barato y más rápido, con menos tokens consumidos. Según el propio autor, no conviene aplicarlo a un modelo nuevo sin antes confiar en él.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA