Lunes 2 de noviembre de 2026 ·
Un autor que construye su propio LLM explica cómo aprende: predecir el siguiente token
El autor, tras leer sobre LLM y comprar el libro «ゼロから作るDeep Learning ⑥ LLM編», resume cómo funcionan estos modelos. Un LLM predice el siguiente token a partir del texto anterior, usando tokens que no siempre son palabras, como los creados con BPE. Después, la arquitectura Transformer y su mecanismo de Attention tienen en cuenta el contexto, y la preentrenamiento aprende de grandes cantidades de texto sin que una persona marque cada respuesta correcta.
Qué significa
Explica que los LLM aprenden prediciendo el siguiente token a partir de textos existentes, sin que nadie marque cada respuesta correcta, lo que permite entrenarlos con enormes volúmenes de texto.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->