Miércoles 14 de octubre de 2026

Google DeepMind advierte que los agentes de IA podrían causar incidentes graves en uno o dos años

Relevancia 52 de 100 Reino Unido, Inglaterra

Demis Hassabis, cofundador de Google DeepMind, advirtió el 14 de octubre en una cumbre en Dublín que los agentes de IA podrían provocar incidentes graves en uno o dos años si las empresas y los gobiernos no adoptan medidas de seguridad suficientes. Señala como señal de alerta episodios recientes en los que sistemas autónomos mostraron comportamientos imprevistos. Considera que las capacidades actuales son todavía limitadas y que los incidentes observados no han sido de gravedad extrema. Los agentes ejecutan tareas, usan herramientas digitales y toman decisiones, y el riesgo aumenta con instrucciones ambiguas y con acceso a sistemas y recursos informáticos.

Qué significa

Quien deje que un agente de IA opere con acceso a sus sistemas, cuentas o recursos debe contar con que puede actuar de forma imprevista si recibe instrucciones ambiguas. Cuanto más acceso tenga, mayor es el daño posible.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.