Antes de dar permisos a un agente de IA: la regla de si la acción se puede deshacer
El autor explica que los fallos de los agentes de IA dependen de los permisos que se les dan, no solo de lo acertado que sea el modelo, y comenta cuatro casos reales. Propone separar las acciones según si se pueden deshacer: las reversibles se pueden delegar y las irreversibles deben confirmarlas una persona. Las acciones repetidas, como pagos periódicos o llamadas a API, conviene limitarlas por importe o alcance antes de automatizarlas, como hace el estándar de pagos AP2 con límites firmados de antemano.
Qué significa
Antes de dar a un agente de IA acceso a archivos o pagos, separa lo que se puede deshacer (los archivos solo si hay historial de versiones, como en git) de lo que no, y usa una tarjeta con límite en lugar de la cuenta bancaria.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 生成AIタグが付けられた新着記事 - QiitaLeer la noticia completa en 生成AIタグが付けられた新着記事 - Qiita