Martes 27 de octubre de 2026 ·
DeepSeek-V4.1-Flash en 2,25 bits frente a la API oficial: prueba preliminar con 100 preguntas
Útil para
Un usuario ejecutó en local una versión cuantizada a 2,25 bits de DeepSeek-V4.1 de ISTA-DASLab durante varios días y la comparó con la API oficial usando 100 preguntas de Humanities Last Exam, con un límite de 32.768 tokens. La prueba tardó unas 12 horas a 40,4 tokens por segundo. El autor señala que el modelo local recorta el presupuesto de razonamiento a unos 24.000 tokens, mientras la API usa el límite completo, lo que distorsiona los resultados. Él mismo describe el ejercicio como una prueba rápida, no como un benchmark fiable.
Qué significa
Muestra que una versión muy comprimida de un modelo de IA puede funcionar en un equipo propio, aunque la comparación con la versión oficial es preliminar y las diferencias de configuración afectan al resultado.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del martes 27 de octubre de 2026 ->