Martes 3 de noviembre de 2026 ·
Cisco abre el código de Project Quarry, una herramienta para detectar comportamientos sospechosos de agentes de IA
Útil para
Cisco publicó en GitHub Project Quarry, una herramienta de código abierto que analiza las llamadas a herramientas, sus resultados y el orden de cada paso que da un agente de IA. Los equipos de seguridad definen reglas con un lenguaje propio y pueden añadir análisis semántico con modelos de IA para detectar inyecciones de prompts o desviaciones de la tarea. Cisco indica que ya la usa en su producto AI Defense.
Qué significa
Los equipos de seguridad podrán revisar paso a paso lo que hacen los agentes de IA, no solo sus respuestas finales. Así se pueden detectar acciones indebidas, como una instrucción maliciosa oculta en un resultado de herramienta.
Cómo te afecta
- CTO y tecnología
Pilota esta herramienta de código abierto si tu equipo ya tiene agentes con acceso a herramientas internas. Te permite exigir trazas paso a paso de cada llamada y resultado antes de extender los agentes al resto de la plantilla.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- iThomeLeer la noticia completa en iThome
También ese día
Todas las noticias de IA del martes 3 de noviembre de 2026 ->