Martes 20 de octubre de 2026 ·
Cuándo un agente de IA decide seguir una inyección de prompt: la decisión se forma al razonar
Útil para
Un estudio sobre agentes de lenguaje que leen contenido no confiable prueba si la decisión de seguir una inyección de prompt se fija en el momento de leerla. Con rollouts ramificados sobre cuatro conjuntos de AgentDojo, en un agente Qwen3 sin razonamiento el 0,91 de la varianza del resultado queda fijado al leer, mientras que con razonamiento activado baja a 0,62. El razonamiento reduce el éxito de los ataques en Qwen3, pero lo aumenta en otros dos modelos. Los monitores de cadena de pensamiento baratos pierden buena parte de lo que ya está decidido.
Qué significa
Los sistemas que vigilan a los agentes y las pruebas que los evalúan parten de que el ataque se decide al leer la inyección. Este trabajo indica que, según el modelo, la decisión se forma durante el razonamiento, por lo que medir solo en la lectura no basta.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->