Sábado 17 de octubre de 2026 ·

Crusoe mantiene los pesos base en 4 bits para reducir 75% la memoria de LoRA

Relevancia 38 de 100 Estados Unidos, California

Útil para Programadores 75%

Crusoe describe un entrenamiento LoRA que mantiene congelados los pesos base en 4 bits y los descomprime a bf16 dentro del kernel. Según Crusoe, un modelo de 1 billón de parámetros como Kimi-K2.6 necesita al menos 2 TB en bf16 para sus pesos base, es decir, cuatro nodos HGX H100. En inferencia LoRA sin fusionar, la ruta base usa mxfp4 con activaciones en mxfp8, y el adaptador queda en bf16; en Blackwell la multiplicación se ejecuta nativamente en mxfp4, mientras que en Hopper se descomprime a bf16.

Qué significa

Quien ajuste modelos grandes con LoRA necesita menos memoria para los pesos base; en GPUs Hopper el ahorro implica descomprimir a bf16 en cada cálculo, y en Blackwell el cálculo es nativo en 4 bits.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del sábado 17 de octubre de 2026 ->