Viernes 16 de octubre de 2026 ·
Campos de riesgo contrafactuales para la seguridad selectiva de modelos visión-lenguaje
Un preprint de arXiv propone CNRF, un método para defender modelos visión-lenguaje (VLM) de ataques de jailbreak multimodal. Construye pares contrafactuales benignos y dañinos, separa el riesgo de la familiaridad con la entrada y redirige las peticiones sospechosas a revisión, en vez de rechazarlas todas. En tres VLM y cinco familias de jailbreak alcanza un éxito de defensa macro de 86,06 a 89,30%, manteniendo utilidad en tareas benignas.
Qué significa
Quien despliegue un VLM podría filtrar selectivamente las peticiones riesgosas en vez de bloquear todo, aunque el texto no indica que haya una implementación disponible.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.AILeer la noticia completa en arXiv cs.AI
También ese día
Todas las noticias de IA del viernes 16 de octubre de 2026 ->