Viernes 30 de octubre de 2026 ·
Un usuario muestra que la temperatura 0 o 0,2 empeora a los modelos locales programando y favorece los bucles
Útil para
El autor sostiene que usar temperatura 0 o 0,2 (decodificación voraz o greedy) reduce la calidad de los modelos locales en programación y aumenta el riesgo de bucles catastróficos. Sus pruebas usan Qwen3.8 comprimido a IQ4_XS-M, el motor llamAmpere v0.5.2, top_p 0,95 y esfuerzo de razonamiento medio. Critica que muchos benchmarks de decodificación especulativa usen temperatura 0, porque así las velocidades publicadas parecen mejores.
Qué significa
Las cifras de velocidad de la decodificación especulativa publicadas con greedy decoding no reflejan el coste en calidad que, según el autor, paga el modelo al programar.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del viernes 30 de octubre de 2026 ->