Sábado 24 de octubre de 2026 ·
Gyro, nuevo formato de cuantización para modelos de IA, parece una variante de EXL3 y su receta es cerrada
Útil para
Un usuario de Reddit comparó el código de Gyro con EXL3 y concluye que ambos usan la misma familia de cuantización (QTIP con cuantización de codificación en trellis y rotaciones Hadamard). Las diferencias están en el tamaño del estado del trellis (15 frente a 16 bits), en el bloque de codificación y en el codebook, y los formatos no son interoperables. Gyro se integra en motores como Strata, pero no hay pruebas publicadas de que supere a EXL3 en velocidad de decodificación ni en perplejidad o KLD. El autor critica la fragmentación y el marketing agresivo de Gyro.
Qué significa
Cuando cada motor de inferencia adopta su propio formato de cuantización no intercambiable, los modelos cuantizados no pueden compartirse entre herramientas y la comunidad se divide.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
También ese día
Todas las noticias de IA del sábado 24 de octubre de 2026 ->