M³: un sistema multi-LLM para jailbreaks en varios turnos como proceso de decisión de Markov
Investigadores presentan M³, un marco automatizado de red-teaming que modela los ataques de jailbreak en varias conversaciones como un proceso de decisión de Markov, con un LLM atacante y un LLM de estado. Según el estudio, supera a los métodos previos en tasa de éxito de ataque, con mejoras de hasta un 53 % en ASR@5 en dos benchmarks y seis modelos objetivo. Incluso con un atacante más ligero logra hasta un 34 % más en ASR@5.
Qué significa
Ayuda a los equipos de seguridad a probar si un modelo acaba cediendo tras muchos mensajes, y muestra que las protecciones frente a ataques en varios turnos siguen siendo frágiles.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.AILeer la noticia completa en arXiv cs.AI