¿Avance en la interpretabilidad de la IA? Debate entre investigadores sobre una nueva lectura de las redes neuronales
Nick Cammarata, investigador de Goodfire y coautor de la tesis de superposición, sostiene en el ensayo « Neural Networks Are Already Clean » que el interior de los modelos grandes es más fácil de entender de lo que se creía, y se retracta de su propia explicación anterior. Roon, de OpenAI, habla de un momento histórico, y Neel Nanda, de DeepMind, advierte contra la exageración. La polisemanticidad, que es cuando una neurona responde a conceptos sin relación, se explicaba hasta ahora por la superposición, según la cual la red junta conceptos en las mismas neuronas cuando le faltan. El texto no resume las conclusiones técnicas del ensayo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- The Decoder (DE)Leer la noticia completa en The Decoder (DE)