Domingo 18 de octubre de 2026 ·
Prueba antes de reutilizar: solo mostrar a los agentes lo que sesiones posteriores reprodujeron
Útil para
Estudio pequeño sobre el envenenamiento de la memoria procedimental de agentes de programación, con datos publicados. Una sesión de aprendizaje se contamina con un cambio falso y luego tres sesiones limpias repiten la tarea; después se evalúan 5 sesiones por brazo con Claude Haiku 5.5 y Sonnet 5.5, usando 187 comprobaciones ocultas. El método «prueba antes de reutilizar» sirve una habilidad solo si dos sesiones posteriores reproducen su cambio y pasan su test, y muestra únicamente las líneas que esas sesiones escribieron. El veneno apareció en 30 de 30 repositorios con la reproducción simple, en 3 de 30 sesiones con memoria ingenua y en 0 de 30 con el método propuesto. Limitaciones: una sola tarea, cinco sesiones por celda, p≈0,24 (no significativo) y reglas ajustadas a la misma tarea. Un veneno colocado en el propio repositorio supera el método, según el artículo.
Qué significa
Si desarrollas agentes de programación con memoria de habilidades aprendidas, verificar una habilidad reproduciéndola en sesiones posteriores redujo en esta prueba pequeña la exposición a código envenenado, aunque el resultado no es concluyente.
Cómo te afecta
- Programadores
Antes de que tu agente reutilice una habilidad aprendida, exige que dos sesiones posteriores la reproduzcan y pasen su test. En el estudio eso bajó el veneno de 30 de 30 a 0 de 30, pero con cinco sesiones por celda y p≈0,24 no es concluyente, así que pruébalo en tu repo antes de adoptarlo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/MachineLearningLeer la noticia completa en Reddit r/MachineLearning
También ese día
Todas las noticias de IA del domingo 18 de octubre de 2026 ->