Domingo 18 de octubre de 2026 ·
Anthropic: los LLM planifican sus respuestas y no solo predicen la siguiente palabra
El investigador de Anthropic Emmanuel Ameisen afirma que describir los LLM solo como predictores de la siguiente palabra es técnicamente correcto pero incompleto. Según la investigación de Anthropic, al escribir poesía el modelo forma internamente la rima de versos posteriores antes de generarlos, aunque esa planificación no siempre aparece en el texto. Ameisen cuenta que un error matemático (el modelo insistía en 36 cuando la respuesta correcta era 12) se debió a datos de entrenamiento mal etiquetados, y que la revisión de activaciones internas ayudó a identificarlo, aunque se trata de un caso individual. También señala que la investigación de interpretabilidad no resuelve por sí sola la seguridad de la IA.
Qué significa
Para quien usa modelos, mirar solo la salida no basta para explicar errores: los diagnósticos internos pueden ayudar, aunque por ahora solo hay casos concretos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del domingo 18 de octubre de 2026 ->