Domingo 25 de octubre de 2026 ·
Se pone en duda que la cuantización de 2 bits de ISTA para DeepSeek-V4.1-Flash iguale al modelo base
Útil para
Un usuario de Reddit pregunta si los GGUF de 2 bits de ISTA con el método GSQ-RCO mantienen la calidad del modelo base, como indican sus benchmarks. Señala que esas pruebas están saturadas, con más del 90 % y AIME25 en 100 en todas las versiones, por lo que no pueden mostrar degradación. No encuentra mediciones de KLD para estos modelos y pide datos de KLD o PPL a unos 2 bits por peso.
Qué significa
Si una cuantización de 2 bits conserva la calidad, un modelo grande ocuparía mucho menos memoria y podría correr en equipos domésticos. Por ahora la paridad con el modelo base no tiene mediciones independientes publicadas en el hilo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del domingo 25 de octubre de 2026 ->