Martes 3 de noviembre de 2026 ·

llama.cpp acelera de forma notable el procesamiento de prompts de Gemma E2B y E4B

Relevancia 65 de 100

Útil para Programadores 85%

Una pull request de Max Krasnyansky en el repositorio ggml-org/llama.cpp (PR #31356) añade optimizaciones de grafo para los modelos Gemma E2B y E4B. Según la publicación, la mejora en el procesamiento de prompts (pp) es grande. La noticia procede de un hilo de Reddit donde se compartió el cambio.

Qué significa

Quien ejecute estos modelos Gemma en local con llama.cpp notará que el procesamiento de la entrada es más rápido antes de que el modelo empiece a responder.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 3 de noviembre de 2026 ->