Lunes 2 de noviembre de 2026 ·
llama.cpp b12051 añade all-reduce de tensor paralelo en Vulkan
Útil para
La build b12051 de llama.cpp incorpora una función de all-reduce para tensor paralelo en Vulkan, que permite repartir un modelo entre varias GPU. Corrige condiciones de carrera que hacían no determinista el resultado con -sm tensor y tres GPU. También agrupa el envío de comandos de cálculo para reducir la carga de la CPU durante la decodificación.
Qué significa
Quien ejecuta modelos grandes en varias tarjetas gráficas con llama.cpp sobre Vulkan puede obtener resultados repetibles y una inferencia menos limitada por la CPU. Es un avance técnico de la infraestructura de IA en local.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->