Sábado 7 de noviembre de 2026 ·
DSpine: nuevo método de decodificación especulativa de Tencent que acelera la generación de modelos de lenguaje
Útil para
Tencent presenta DSpine, un 'drafter' que genera varios tokens candidatos en una sola pasada del modelo, inyectando información causal en cada capa para mantener coherentes las continuaciones. Según el artículo, en Qwen3-8B sube la media de siete pruebas de matemáticas, código y chat de 3,77 (DFlash) a 4,82 con temperatura cero, un 27,8 % más. En pruebas de servicio con SGLang, ofrece un 23,3 % más de rendimiento que DFlash.
Qué significa
Los modelos de lenguaje que usan decodificación especulativa pueden responder más rápido, con más tokens aceptados por paso. Beneficia a quien despliega estos modelos con SGLang, ya que aumenta el número de respuestas servidas por unidad de tiempo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del sábado 7 de noviembre de 2026 ->