Antes de descargar un modelo de IA para Mac, calcula si cabe: el caso de los MoE de octubre
El artículo explica cómo estimar, a partir del archivo de configuración del modelo y sin descargarlo, si un MoE cabe en la memoria de un Mac, y luego probarlo con Ollama y dos scripts de Python sin cuenta ni clave de API. Repasa tres modelos publicados en octubre: MiniCPM-V 4.7 (35B en total, unos 3B activos, Apache-2.0), LFM2.5-24B-A2B (24B en total, 2,45B activos, con japonés entre 16 idiomas y licencia restringida a organizaciones de menos de 10 millones de dólares de ingresos anuales) y LLM-jp-4 de NII (versión 32B-A3B, con 32,1B en total y 3,8B activos). Como comparación aparece Qwen3.6-35B-A3B.
Qué significa
Un MoE de 35B con 3B activos sigue necesitando memoria para los 35B, así que el número pequeño no indica que vaya a funcionar bien en tu Mac. Conviene calcularlo antes de descargar 20 GB o más.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ