La ventana de contexto no basta: por qué los LLM no usan bien la evidencia de sus prompts
El artículo sostiene que tener la evidencia dentro de la ventana de contexto no garantiza que un LLM la utilice. Su primer apartado compara el mismo dato colocado en distintas posiciones del prompt.
Qué significa
Al meter documentos largos en un prompt, que la información quepa no garantiza que el modelo la use; la posición en la que la colocas también puede importar.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Artificial Intelligence on MediumLeer la noticia completa en Artificial Intelligence on Medium