Miércoles 14 de octubre de 2026
llama.cpp corrige conv_1d por lotes, acelera IQ3 en SYCL y revierte regresión F16C en x86
Las versiones b11610 a b11636 de llama.cpp corrigen el orden de memoria de la salida de conv_1d con lotes (N>1), que estaba transpuesta sin aviso, y añaden pesos IQ3_S e IQ3_XXS reordenados de forma persistente en el backend SYCL. Según los autores, la generación con IQ3_S en una Intel Arc Pro B70 sube entre un 53 % y un 82 % según el contexto, sin cambios en el prefill pp8192. Además, b11635 revierte una regresión de F16C en CPU x86 que había ralentizado los núcleos Q8_0 y Q4_0 entre un 45 % y un 65 %.
Fuentes
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11610
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11627
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11630
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11635
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11636
- GitHub ggml-org/llama.cppggml-org/llama.cpp: b11684