Jueves 29 de octubre de 2026 ·
Mellum2 de JetBrains: la versión de 4 bits de mlx-community falla y la de 6 bits supera a Qwen2.5-Coder-7B
Útil para
Un usuario que genera código y tests en local con un Mac Studio M2 compara Mellum2-12B-A2.5B-Instruct con Qwen2.5-Coder-7B. La versión de 4 bits aprobó solo 1 de 4 tareas de código y falló en los mismos puntos con tres semillas distintas, mientras que la de 6 bits aprobó las 4 y superó al modelo actual también en tests. Mellum2 es un modelo MoE de 12.000 millones de parámetros que activa 2.500 millones por token.
Qué significa
Quien ejecute modelos cuantizados en local comprueba que una versión de 4 bits puede descartar un modelo que funciona bien en 6 bits. La versión de 6 bits eleva el pico de memoria de 4,6 a 10,2 GB y exige mlx-lm desde GitHub.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- 生成AIタグが付けられた新着記事 - QiitaLeer la noticia completa en 生成AIタグが付けられた新着記事 - Qiita
También ese día
Todas las noticias de IA del jueves 29 de octubre de 2026 ->