Agentes de IA que navegan y compran por ti: permisos y el riesgo de la inyección de instrucciones
Útil para
Un agente que navega lee todo lo que aparece en pantalla y puede confundir las órdenes del usuario con instrucciones ocultas en una web, un correo, un documento o una imagen; a este fallo se le llama inyección de instrucciones o prompt injection. OpenAI pone como ejemplo un correo trampa que ordena al agente enviar una carta de dimisión al consejero delegado del usuario. Según OWASP, este riesgo ocupa el primer puesto de su lista para aplicaciones con modelos de lenguaje, y las propias empresas que venden estos agentes reconocen que no está resuelto.
Qué significa
Cuando un agente de IA actúa en nombre de alguien, puede obedecer órdenes escritas por un tercero en contenido ajeno a lo que pidió el usuario. Esto convierte las compras y los envíos automáticos en un nuevo punto de riesgo.
Cómo te afecta
- CTO y tecnología
Antes de permitir agentes que naveguen o compren, define qué acciones exigen confirmación humana: compras, envíos de correo y accesos a datos. OWASP lo sitúa como primer riesgo y los propios proveedores reconocen que no está resuelto, así que el control debe estar en tu política, no en el modelo.
- Programadores
Si tu agente de programación lee issues, PRs o páginas web ajenas, trata ese contenido como no fiable: OWASP sitúa la inyección de instrucciones en el primer puesto de riesgos para aplicaciones con LLM. Limita qué herramientas puede ejecutar el agente cuando procesa texto externo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- WWWhat's new IALeer la noticia completa en WWWhat's new IA