Viernes 30 de octubre de 2026 ·
Puntuar explicaciones sin leerlas: atajos estructurales en los datos de evaluación de interpretabilidad automática
La interpretabilidad automática puntúa la explicación de una característica de un autoencoder disperso (SAE) con un modelo de lenguaje, pero los autores demuestran que los datos de evaluación pueden puntuarse sin leer la explicación. En 500 características de GPT-2 small, una regla que responde «sí» cuando el token central está marcado alcanza una precisión equilibrada de 0,979, frente a 0,838 de los evaluadores basados en LLM. En el benchmark de simulación de OpenAI, una regla que predice actividad en las cinco primeras secuencias obtiene 0,227 de correlación, frente a 0,160 del simulador de GPT-4.
Qué significa
Para quien compara métodos que explican qué hacen las neuronas de los modelos, las cifras publicadas pueden reflejar atajos en los datos de prueba y no la calidad de las explicaciones.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL
También ese día
Todas las noticias de IA del viernes 30 de octubre de 2026 ->