Domingo 25 de octubre de 2026 ·
Tutorial sobre Transformer y Attention: cómo ChatGPT relaciona las palabras de un texto
Útil para
Cuarta entrega de un curso divulgativo que explica la arquitectura Transformer, propuesta por investigadores de Google en 2017 y base de los LLM actuales. Describe el mecanismo Attention, por el que cada token calcula su relación con los demás y actualiza su representación según esa relación. Señala que los modelos generativos usan una máscara causal que impide ver los tokens posteriores.
Qué significa
Ayuda a entender por qué un modelo puede seguir a qué persona se refiere un pronombre varios párrafos después, algo esencial para que sus textos resulten coherentes.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del domingo 25 de octubre de 2026 ->