Lunes 2 de noviembre de 2026 ·
Las primeras tokens determinan si un modelo controla su cadena de pensamiento
La monitorización de la cadena de pensamiento (CoT) funciona en parte porque los modelos controlan poco lo que verbalizan en su razonamiento. Los autores relacionan esta limitación con un colapso de entropía en los primeros tokens tras la etiqueta de apertura. Dos intervenciones en esos tokens, prefijar uno solo o prohibir aperturas frecuentes con ejemplos en contexto, suben el cumplimiento entre 34 y 41 puntos de media. La controlabilidad de añadir o cambiar estilo se correlaciona más con la monitorabilidad que la de suprimir información.
Qué significa
Quien confíe en supervisar el razonamiento de los modelos debe saber que la capacidad de controlar lo que el modelo dice en su razonamiento depende del tipo de instrucción y de la evaluación.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.AILeer la noticia completa en arXiv cs.AI
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->