Domingo 18 de octubre de 2026 ·
Ternary Bonsai 2 27B en Mac mini M4 Pro: unos 20 tokens por segundo con mlx-lm oficial y un runtime incluido con trampas
Útil para
El autor probó el modelo Ternary Bonsai 2 27B, cuantizado a 2 bits, en un Mac mini M4 Pro con 64 GB de memoria, con MLX y el paquete oficial mlx-lm 0.32.2. Midió unos 20 tokens por segundo y un pico de unos 8,6 GB de memoria. Con mlx-lm oficial obtuvo texto coherente. El runtime incluido en el modelo presentó dos puntos que dan problemas al usarlo tal cual. La ficha del modelo advierte que el cargador MLX normal puede devolver resultados incorrectos sin mostrar error.
Qué significa
Quien tenga un Mac con bastante memoria puede probar este modelo de 27B con el paquete oficial mlx-lm, pero conviene revisar la salida, porque el cargador estándar puede devolver respuestas erróneas sin avisar.
Cómo te afecta
- Programadores
Con un Mac de 64 GB puedes probar Ternary Bonsai 2 27B con mlx-lm 0.32.2, a unos 20 tokens por segundo. No uses el runtime incluido tal cual y valida siempre la salida, porque el cargador MLX estándar puede dar respuestas erróneas sin avisar.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del domingo 18 de octubre de 2026 ->