Viernes 16 de octubre de 2026 ·
Un agente de IA puede ejecutar la herramienta que su modelo dice rechazar
Útil para
Un preprint publicado el 9 de octubre de 2026 por seis investigadores muestra que un agente puede llamar a una herramienta y solo después declarar que no puede cumplir la petición. En la demostración, el agente invoca una herramienta ficticia y luego se niega. El ataque «Repeat-After-Me» se reprodujo en seis orquestadores (LangGraph, Microsoft Agent Framework, Google ADK 2.0, AutoGen, AWS Strands y CrewAI), pero solo la demostración de LangGraph está publicada completa. Además, un banco de pruebas verificó 253 fallos de seguridad en 118 servidores MCP de código abierto.
Qué significa
Un modelo que dice negarse puede haber ejecutado ya la acción, así que el rechazo en el texto no garantiza que nada haya ocurrido. Quien use estos orquestadores debe revisar qué llamadas a herramientas se ejecutan realmente.
Cómo te afecta
- CTO y tecnología
Antes de estandarizar un orquestador de agentes, exige registro de cada llamada a herramienta: que el modelo afirme negarse no prueba que la herramienta no se ejecutara. Revisa también los servidores MCP que ya usa tu gente, porque un banco de pruebas halló 253 fallos en 118 de código abierto.
- Programadores
En tus agentes no des por bueno un rechazo del modelo: revisa los logs de llamadas a herramientas, porque la acción puede haberse ejecutado igualmente. El banco de pruebas encontró 253 fallos en 118 servidores MCP de código abierto, así que audita los que conectas.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- ActuIA (FR)Leer la noticia completa en ActuIA (FR)
También ese día
Todas las noticias de IA del viernes 16 de octubre de 2026 ->