Nvidia y Meta lanzan dos modelos abiertos de gran tamaño, y Unsloth ya permite ejecutarlos en local

Relevancia 86 de 100 Estados Unidos, California ProgramadoresCEO y direcciónCTO y tecnología

Nvidia ha presentado Nemotron 3.5 Super VL, un modelo abierto multimodal de 120.000 millones de parámetros totales (12.000 millones activos por token) que procesa texto, imágenes, documentos y vídeo, con hasta 1 millón de tokens de contexto. Meta ha publicado Muse Spark Open, de 816.000 millones de parámetros totales (unos 42.000 millones activos), orientado a programación y flujos de trabajo agénticos. Unsloth ya ofrece guías y GGUF para ambos modelos; las cifras de rendimiento y memoria proceden de los propios fabricantes.

Cómo te afecta

Programadores
Puedes descargar Nemotron 3.5 Super VL y ejecutarlo en local con Unsloth si tienes una H200, dos H100 o un DGX Spark, y pasarle un vídeo de hasta 2 minutos o un documento largo en una sola consulta sin enviarlo a la nube. Muse Spark Open es otra categoría: Transformers lo ejecuta en 4 nodos de 8 H200 en BF16, o en un solo nodo B200 con NVFP4, así que no es un modelo para un portátil.
CEO y dirección
Si dependes de un único proveedor de modelos, ya tienes una alternativa abierta de gran tamaño que puedes evaluar: Nemotron 3.5 Super VL, publicado con licencia OpenMDW-1.1 y con datasets y recetas de entrenamiento, es el caso más manejable para un piloto interno.
CTO y tecnología
Puedes montar un piloto de Nemotron 3.5 Super VL en un servidor propio y medir su coste por token frente al de tu API actual, sin que los datos salgan de tu infraestructura. Muse Spark Open ocupa unos 1,5 TB en BF16, por lo que su coste de hardware es mucho mayor y conviene valorarlo solo si ya tienes clústeres de GPU.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
vLLM BlogLeer la noticia completa en vLLM Blog
Unsloth Updates | Unsloth DocumentationLeer la noticia completa en Unsloth Updates | Unsloth Documentation
Hugging Face BlogLeer la noticia completa en Hugging Face Blog
NVIDIALeer la noticia completa en NVIDIA
Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
ZDNet AILeer la noticia completa en ZDNet AI
NVIDIA Technical BlogLeer la noticia completa en NVIDIA Technical Blog