Domingo 25 de octubre de 2026 ·

Underdog Saluki 27B: una versión de Qwen3.8-27B de 7,9 GB a 2 bits que, según sus autores, conserva las llamadas a herramientas

Relevancia 42 de 100

Útil para Programadores 72%

Tutorial para ejecutar Saluki 27B, cuantización de Qwen3.8-27B a unos 2 bits por peso, con llama.cpp estándar, frente al GSQ-RCO de ISTA-DASLab sobre el mismo modelo. Compara las cabeceras y los bytes de ambos ficheros, mide memoria y velocidad en una GPU y evalúa 120 tareas de BFCL con su propio verificador. Sus autores afirman que Saluki supera al modelo completo de 54 GB en su banco de 120 tareas.

Qué significa

Permite ejecutar un modelo de 27.000 millones de parámetros con llamadas a herramientas en una sola GPU, con 7,9 GB en lugar de 54 GB. Las cifras de calidad son afirmaciones de sus autores, y el tutorial las contrasta con un banco de pruebas público.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 25 de octubre de 2026 ->