Viernes 16 de octubre de 2026 ·
Chema Alonso: la IA cambia la seguridad y los modelos son el nuevo riesgo
Útil para
Chema Alonso, en su charla en Ekoparty 22, afirma que la IA ha cambiado la búsqueda de vulnerabilidades y los ciberataques, y que los propios modelos tienen debilidades. Las pruebas de penetración y el análisis de aplicaciones ya usan agentes que investigan sistemas y generan código de explotación. Señala riesgos como alucinaciones, inyección de instrucciones y jailbreaks, y muestra cómo varios agentes pueden coordinarse para ejecutar un ataque fragmentado, junto con una prueba de concepto para detectarlo.
Qué significa
Proteger un sistema ya no basta si incluye modelos de IA o agentes, porque pueden manipularse para hacer acciones no previstas. Los equipos de seguridad deben vigilar también el comportamiento de esos agentes.
Cómo te afecta
- CTO y tecnología
Tu inventario de seguridad debe incluir modelos y agentes, no solo infraestructura: pide a tu equipo que vigile el comportamiento de los agentes, no solo sus accesos. Las pruebas de penetración ya usan agentes, así que revisa con tu proveedor de seguridad qué hacen y bajo qué reglas.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Computer HoyLeer la noticia completa en Computer Hoy
También ese día
Todas las noticias de IA del viernes 16 de octubre de 2026 ->