Viernes 16 de octubre de 2026 ·
PRISM: transferencia y límites de las intervenciones de activación en modelos que usan herramientas
Los autores muestran que los modelos de lenguaje pueden hacer llamadas a herramientas inseguras aunque rechacen el contenido en texto. Presentan PRISM, un marco para evaluar cómo se transfieren las intervenciones de activación entre precisiones, idiomas y tamaños. Direcciones aprendidas con cinco idiomas y etiquetas de un modelo NF4 reducen en 21,95 puntos porcentuales las violaciones inseguras de Llama-3.1-8B en árabe sin ajuste en ese idioma, y se transfieren a modelos de hasta 70B parámetros.
Qué significa
Los desarrolladores de agentes con herramientas podrían aplicar estas intervenciones para reducir acciones peligrosas en idiomas que no se han entrenado, y los autores publican su código.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL
También ese día
Todas las noticias de IA del viernes 16 de octubre de 2026 ->