Prueba de Nemotron-3.5-bolt 74B-A9B (NVIDIA) en Ollama
Un usuario prueba el modelo Nemotron 3.5 Bolt de 74B parámetros, disponible en Ollama, con cuantización IQ2_XXS y soporte de visión, herramientas y razonamiento. Lo ejecutó en un Ryzen 7 5700X con 96 GB de RAM y dos RTX 5060 Ti de 16 GB, con contexto de 256k. Según el autor, es rápido con código e inglés, pero lento en japonés; en la prueba de minijuego falló la primera vez y lo logró al tercer intento, y su japonés no le parece de alto nivel.
Qué significa
Quien quiera usar este modelo en local para programar o trabajar en inglés puede esperar buena velocidad. Para textos en japonés, el autor advierte de respuestas más lentas y menor calidad.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ