Jueves 29 de octubre de 2026 ·
llama.cpp b12002 añade una API de copia de tensores por lotes en ggml
Útil para
Nueva versión del proyecto llama.cpp (b12002) incorpora una API genérica para copiar tensores por lotes en ggml. Se usa también en la entrada y salida de contexto de llama, con soporte para CUDA, y elimina las APIs asíncronas tensor_n. Incluye pruebas con un tipo de buffer simulado.
Qué significa
Cambia la capa interna que mueve tensores entre memoria y backends, incluido CUDA, que es la base sobre la que corren modelos de lenguaje en local con llama.cpp.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- GitHub ggml-org/llama.cppLeer la noticia completa en GitHub ggml-org/llama.cpp
También ese día
Todas las noticias de IA del jueves 29 de octubre de 2026 ->