Martes 20 de octubre de 2026 ·
llama.cpp b11758: guarda la caché n-gram dinámica de la decodificación especulativa y corrige su historial
Útil para
Nueva versión de llama.cpp que permite guardar en disco la caché n-gram dinámica usada en decodificación especulativa y elimina las banderas save_static y save_dynamic. Si el archivo no existe, la caché empieza vacía y se escribe al salir; si existe pero no se puede leer, el programa se detiene para no sobrescribirlo. Además corrige un fallo por el que la caché solo acababa conteniendo el prompt, porque no se formaban los n-gramas que terminaban en los tokens nuevos. Ahora se pasa el historial completo y la caché se reinicia en cada petición.
Qué significa
Quien ejecuta modelos en local con llama.cpp y decodificación especulativa verá la caché de predicción mantenerse entre ejecuciones y reflejar el historial real de la conversación.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->