llama.cpp corrige una condición de carrera en el kernel CUDA de flash attention
Útil para
El proyecto open source llama.cpp publica un parche que corrige una condición de carrera (write-after-read) en la memoria compartida del kernel flash_attn_ext_vec para CUDA. El cambio forma parte de la build b11724 y se integra en el repositorio ggml-org/llama.cpp en GitHub.
Qué significa
Quien ejecuta llama.cpp con GPUs NVIDIA evita un fallo de sincronización en el cálculo de atención, que podía producir resultados incorrectos. Es una corrección de mantenimiento, sin cambios en modelos ni en funciones.
Cómo te afecta
- Programadores
Si usas llama.cpp con CUDA, sube a la build b11724 para salir de una condición de carrera en flash_attn_ext_vec que podía dar resultados incorrectos. Es solo un parche de mantenimiento, sin cambios de modelos ni de funciones.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp