Microsoft Security advierte que los modelos de IA «no pueden ser de confianza» y que los agentes tienen demasiado poder
Útil para
Un responsable de seguridad de Microsoft afirma que los modelos fronterizos, sea cual sea su origen, no pueden considerarse de confianza. Añade que los agentes de IA son impredecibles y necesitan supervisión.
Qué significa
Las empresas que dejan agentes de IA actuar con amplios poderes tendrían que asumir una supervisión humana constante, según el mensaje que lanza Microsoft sobre su seguridad.
Cómo te afecta
- CTO y tecnología
Revisa hoy los permisos de tus agentes y reduce los de escritura o acceso a datos a lo estrictamente necesario. Asume que habrá supervisión humana y que tendrá un coste en tiempo de tu equipo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Agentes de IA (EN)Leer la noticia completa en Agentes de IA (EN)