Miércoles 14 de octubre de 2026

llama.cpp corrige fallo al cargar modelos cuando ningún dispositivo reporta memoria libre

La versión b11626 de llama.cpp soluciona un error en la distribución de capas del modelo. Cuando todos los dispositivos reportan cero memoria libre, el cálculo de los puntos de división se normalizaba entre una suma cero, generando valores NaN que enviaban capas a un índice de dispositivo inexistente y provocaban la cancelación de la carga con un error vector::_M_range_check. Ahora, en ese caso, las capas se reparten de forma uniforme entre los dispositivos.

Fuentes

• GitHub ggml-org/llama.cppggml-org/llama.cpp: b11626: model: split layers evenly when no device reports free memory (#29677)