Lunes 2 de noviembre de 2026 ·
Grokking y lotes dinámicos: con el mismo número de ejemplos, el lote grande de 512 no generaliza
Un estudio revisa si aumentar el tamaño de lote durante el entrenamiento mejora el grokking, la generalización repentina de las redes neuronales tras el sobreajuste. Con 512 fijo, en división modular se alcanza 99,6 % de precisión en 3.245 pasos, pero con un presupuesto de 240.000 ejemplos nunca hay grokking. El weight decay resulta decisivo: sin él, ninguna estrategia generaliza.
Qué significa
Cambia la forma de comparar entrenamientos: medir por pasos favorece a los lotes grandes, pero medir por ejemplos procesados los deja atrás. Para quien entrena modelos con datos o cómputo limitados, la regularización pasa a ser un factor clave.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Frontiers in Artificial Intelligence | New and Recent ArticlesLeer la noticia completa en Frontiers in Artificial Intelligence | New and Recent Articles
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->