Jueves 5 de noviembre de 2026 ·
llama.cpp b12121 corrige las copias de estado en caché KV cuantizada (q8_0, q4_0) que restauraban datos incorrectos o fallaban
Útil para
La versión b12121 de llama.cpp, la biblioteca para ejecutar modelos de lenguaje en local, corrige un error al copiar estados de secuencia en el dispositivo cuando la caché KV usa tipos cuantizados como q8_0 o q4_0. El cálculo contaba bloques en vez de elementos, así que solo se copiaba parte del rango: el estado restaurado era incorrecto o la copia fallaba. Se corrige el cálculo y se añade una comprobación que exige bloques completos.
Qué significa
Quienes ejecutan modelos cuantizados con llama.cpp y guardan estados en el dispositivo evitan restauraciones corruptas y fallos al copiarlos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp
También ese día
Todas las noticias de IA del jueves 5 de noviembre de 2026 ->