Miércoles 28 de octubre de 2026 ·

Dos estudios explican cómo una IA pasa de memorizar a generalizar en el fenómeno del grokking

Relevancia 41 de 100

Dos preprints estudian el grokking, el salto en que una red neuronal pasa de memorizar sus ejemplos a resolver casos nuevos. Shlok Mehendale y Paras Chopra observaron que, en transformers entrenados con aritmética modular, la memorización ocurre en los primeros 250 pasos y la generalización empieza entre los pasos 6.500 y 21.000. La caída más marcada del rango efectivo de los pesos llega unos 900 pasos después. El otro estudio describe la transición con herramientas de la física.

Qué significa

Entender cuándo y cómo una red pasa de memorizar a generalizar ayuda a los investigadores a diagnosticar por qué un modelo falla con datos nuevos. Por ahora los resultados proceden de redes pequeñas y tareas algorítmicas, no de modelos grandes.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 28 de octubre de 2026 ->