Miércoles 28 de octubre de 2026 ·
Nick Cammarata (Goodfire) defiende que las redes neuronales ya son legibles; su estimación del 90% de neuronas interpretables aún no tiene artículo técnico
Nick Cammarata, investigador de la startup Goodfire, publicó el 15 de octubre el ensayo «Neural Networks Are Already Clean», de 26.000 palabras, que sostiene que el interior de los modelos de IA es más legible de lo que se creía. Estima que cerca del 90% de las neuronas de Qwen3-32B tienen una función principal, frente al 1,7% que su equipo logró leer en 2023, aunque advierte de que la cifra depende del umbral elegido. Investigadores de Google DeepMind y otros critican la tesis, y un estudio de agosto con GPT-2 halló que las conclusiones cambian en el 73,2% de las combinaciones de métodos probadas.
Qué significa
La interpretabilidad de los modelos avanza como herramienta de auditoría, pero sus resultados aún no son reproducibles entre equipos. Esto afecta a cómo se verificará el cumplimiento de normativas como el AI Act, que exige documentación técnica sólida.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
Relacionadas
También ese día
Todas las noticias de IA del miércoles 28 de octubre de 2026 ->