Familia Ternary Bonsai 2 (2B, 4B y 9B), basada en Qwen 3.5
Un usuario de Reddit comenta el lanzamiento de la familia Ternary Bonsai 2, con modelos de 2B, 4B y 9B parámetros basados en Qwen 3.5. Según el post, los modelos requerían inicialmente una bifurcación de llama.cpp, pero en una actualización el autor indica que también funcionan con llama.cpp convencional. El autor señala que tiene previsto comprobar si repiten el comportamiento de bucles de otros modelos Bonsai y que se anuncia soporte para dFlash, MTP y MLX.
Qué significa
Quien quiera ejecutar estos modelos en local puede usar llama.cpp estándar, según la actualización del post, aunque el autor aún no ha confirmado su comportamiento.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA