Lunes 2 de noviembre de 2026 ·
Un usuario de Reddit cuestiona los posts de «300 t/s» con modelos abiertos cuantizados al extremo y sin datos de calidad
Útil para
Un usuario de Reddit (PathfinderTactician) critica que la comunidad de modelos abiertos publique a diario récords de unos 300 tokens por segundo. Señala que esas cifras se obtienen con la cuantización Q1_XXXS, decodificación greedy y omitiendo expertos que no caben en la RAM, e ironiza sobre ello. Sin datos de divergencia KLD, pregunta si estos posts aportan valor real a la comunidad.
Qué significa
Pone en duda cómo se miden los avances de velocidad en modelos locales: una cifra alta sin medir la calidad de las respuestas puede no servir para elegir herramienta.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del lunes 2 de noviembre de 2026 ->