Martes 27 de octubre de 2026 ·
Un error de 900 millones de Citibank como lección para diseñar agentes de IA
Útil para
John Feminella, responsable de arquitectura e ingeniería de IA en Two Sigma, usó en la conferencia AI Engineer el caso de Citibank para plantear pautas de diseño de agentes de IA. En agosto de 2020, tres aprobadores internos con acceso local ignoraron una alerta y el sistema de préstamos Flexcube envió unos 900 millones de dólares de principal a más de 300 prestamistas de Revlon, en lugar de los 8 millones de intereses debidos. Feminella sostiene que los agentes no deterministas fallan como las personas y necesitan límites, no jaulas, y que las políticas escritas en los prompts no se pueden exigir en tiempo de ejecución.
Qué significa
Para empresas que despliegan agentes de IA en sectores regulados, la tesis es que los controles deben estar en el sistema y no solo en las instrucciones. En el caso Citibank, las cláusulas que corrigieron el problema llegaron después de la pérdida.
Cómo te afecta
- CTO y tecnología
Si tus agentes tocan pagos, préstamos o aprobaciones, pon los límites de importe y la validación humana en el sistema, no en el prompt. Revisa qué agentes pueden mover dinero o datos sin segunda verificación antes de ampliar su alcance.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- StartupHub.aiLeer la noticia completa en StartupHub.ai
También ese día
Todas las noticias de IA del martes 27 de octubre de 2026 ->