Jueves 22 de octubre de 2026 ·

Un usuario acelera Ling-3.0-tiny con un drafter DFlash en llama.cpp estándar: +8% en prosa y +61% en código

Relevancia 50 de 100 China, Zhejiang

Útil para Programadores 85%

Un usuario extrajo la parte DFlash del modelo UBTree de Ling-3.0-tiny y la ejecutó con el llama.cpp oficial, sin soporte nativo para UBTree. En sus pruebas, la generación de prosa pasó de 78,8 a 84,8 tokens por segundo (+8%, con una aceptación de 0,28) y la de código Python de 79,0 a 127,2 (+61%, con una aceptación de 0,53). Ha publicado el modelo convertido y el procedimiento en Hugging Face.

Qué significa

Quien ejecute modelos de lenguaje en su propio equipo podría ganar velocidad sin esperar a que llama.cpp soporte oficialmente UBTree. La mejora es mucho mayor en código que en texto.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 22 de octubre de 2026 ->