Equipos de investigadores IA autónomos descubren arquitecturas de atención lineal que superan a GDN2
Investigadores construyen un equipo de agentes de IA, cada uno con una disciplina científica distinta, que conservan su historial, comparten resultados y reparten presupuesto experimental de forma adaptativa. Con este sistema buscan arquitecturas de atención lineal y encuentran variantes que superan a GDN2 a escala de 1.300 millones de parámetros en modelado de lenguaje, razonamiento de sentido común y tareas sintéticas.
Qué significa
Muestra que la investigación en IA puede automatizarse con equipos de agentes que aprenden de sus propios experimentos, aun con presupuesto limitado. Podría acelerar el diseño de arquitecturas nuevas que sean más eficientes que los modelos actuales.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Hugging Face Daily PapersLeer la noticia completa en Hugging Face Daily Papers
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL