llama.cpp b11679: las vistas de entrada del pool k se comparten entre capas
La versión b11679 de llama.cpp (PR #30613) corrige una copia redundante: el planificador subía cada vista de una entrada del host por separado, así que el reshape por capa de new_pool_idxs (y de sel_mask en glm5-next) se copiaba una vez en cada capa. Ahora las vistas se comparten entre capas. El texto no incluye cifras de rendimiento.
Qué significa
Es un cambio interno que evita copias repetidas de datos en cada capa; el texto no indica cuánto mejora el rendimiento.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp