Lunes 2 de noviembre de 2026 ·
CoFiBreak: una recompensa de diversidad para ataques multi-turno que prueban la seguridad de los LLM
Los investigadores presentan CoFiBreak, una recompensa de diversidad gruesa-a-fina para el entrenamiento con GRPO de un LLM atacante en red teaming automatizado. Busca evitar que el atacante repita variantes casi idénticas de ataques, sin perder efectividad ni aumentar el coste de inferencia. Las recompensas de diversidad solo se aplican a los ataques que ya superan un umbral de eficacia.
Qué significa
Las pruebas de seguridad de modelos de lenguaje podrían cubrir un abanico más amplio de intenciones dañinas, en lugar de repetir los mismos patrones. Esto beneficia a los equipos que evalúan la robustez de sus sistemas de IA.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->