Sábado 7 de noviembre de 2026 ·
Un investigador muestra cómo ocultar órdenes maliciosas en imágenes para engañar a los LLM
Útil para
En la conferencia OWASP Global AppSec USA, en San Francisco, Pavan Reddy, de Automata LLC, explicó que se pueden insertar instrucciones maliciosas en imágenes que los LLM leen aunque el ojo humano no las distinga. Su ataque, FigStep, presenta en imagen una petición que el texto rechazaría, como tres pasos para escribir un correo de phishing, y muchos modelos la cumplen. Según Reddy, los filtros revisan el texto pero la imagen pasa sin control.
Qué significa
Los sistemas de IA que aceptan imágenes quedan expuestos por un canal que muchos filtros no revisan, así que la protección de seguridad debe extenderse más allá del texto.
Cómo te afecta
- CTO y tecnología
Si tus productos con LLM aceptan imágenes, los filtros de texto no bastan: incluye pruebas de inyección en imagen en la revisión de seguridad antes de desplegar. Según el investigador, muchos modelos cumplen peticiones presentadas en imagen que el texto rechazaría.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- SC MediaLeer la noticia completa en SC Media
También ese día
Todas las noticias de IA del sábado 7 de noviembre de 2026 ->