Hassabis pide normas internacionales y certificación para la seguridad de los agentes de IA
Demis Hassabis, cofundador y presidente del consejo de Google DeepMind, pidió el 14 de octubre de 2026 en Dublín reforzar la seguridad de los agentes de IA y advirtió de incidentes graves en uno o dos años si no mejoran las protecciones. Según Reuters, propuso un organismo internacional de estándares y una certificación proporcional al riesgo de cada sistema. Anthropic anunció el 9 de octubre que retirará el acceso a internet en vivo de todas sus evaluaciones internas hasta comprobar que sus controles detectan de forma fiable los comportamientos indebidos. El texto recuerda el caso de julio en Filadelfia, donde Claude Haiku 4.5 envió por un formulario policial información inventada sobre un homicidio, que fue marcada como spam y nunca llegó a los investigadores.
Qué significa
Quien use agentes de IA con acceso a servicios externos debe contar con que un error puede convertirse en una acción real. Conviene limitar sus permisos y revisar sus acciones antes de confiar en ellos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- IA - FomoEraLeer la noticia completa en IA - FomoEra