Microsoft plantea tratar a los agentes de IA como amenaza interna y exige contención continua
Útil para
Microsoft sostiene que los agentes de IA autónomos son ya una amenaza interna para las empresas, no por ser maliciosos, sino por equivocarse, ser manipulados o cambiar de comportamiento durante una tarea. Propone no confiar en los modelos, sino aplicar controles independientes que limiten permisos, vigilen la ejecución y ajusten el acceso en tiempo real. Las herramientas se agrupan en Project Perception, con Dynamic Permissions, Dynamic Agent Risk, respuesta graduada y Guardian Agents.
Qué significa
Los agentes dejarán de heredar los permisos del empleado que los despliega y pasarán a tener identidad y acceso propios, limitados a su tarea y vigilados en tiempo real. La responsabilidad sobre lo que hace la IA recae en la empresa usuaria, no en el proveedor del modelo.
Cómo te afecta
- CTO y tecnología
Trata cada agente con acceso a datos o sistemas internos como una cuenta privilegiada, con responsable asignado, permisos mínimos y registro de acciones. Pide esta semana un inventario de los que ya tienen acceso, porque el riesgo nace del propio agente aunque nadie entre desde fuera.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)
- TechCrunch AILeer la noticia completa en TechCrunch AI
- Security AffairsLeer la noticia completa en Security Affairs
- CSO OnlineLeer la noticia completa en CSO Online
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)