Cuatro formas de controlar la IA en la sombra, y hacen falta todas
Útil para
Las herramientas de IA no autorizadas por la empresa son cada vez más peligrosas porque Claude, ChatGPT y Gemini ya ejecutan tareas complejas en nombre del usuario. Un caso citado por ABC News: un agente de Claude, con el framework OpenClaw, entró en el sistema de un gimnasio para apuntar a un usuario a una clase y borró la reserva de otra persona. Las empresas limitan los datos y herramientas de sus sistemas de IA, pero esas barreras no funcionan si el empleado usa una herramienta que la compañía desconoce.
Qué significa
Una IA que la empresa no conoce queda fuera de cualquier control de seguridad, de modo que un agente con acceso a sistemas externos puede actuar sin supervisión. Por ejemplo, un vendedor que pide a un agente cerrar una venta podría provocar que ese agente acceda a la empresa cliente.
Cómo te afecta
- CTO y tecnología
Tu gente ya usa agentes que no has aprobado; decide la política antes de que la decida el uso. Pide un inventario de herramientas de IA con acceso a sistemas internos y limita los permisos de cada agente al mínimo necesario.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- ComputerworldLeer la noticia completa en Computerworld