Viernes 30 de octubre de 2026 ·
NVIDIA explica cómo ejecutar modelos de IA en DGX Spark con TensorRT Edge-LLM
Útil para
NVIDIA explicó en un blog del 30 de octubre de 2026 cómo prototipar y servir modelos de IA en el borde con pocos comandos en DGX Spark, de 64 GB, usando el runtime TensorRT Edge-LLM para preparar y ejecutar Nemotron-3.5 Lightning. Según sus pruebas, con decodificación especulativa DSpark se genera más rápido, mientras el tiempo hasta el primer token se mantiene casi igual. La primera ejecución descarga unos 21 GB de archivos y compila motores.
Qué significa
Los desarrolladores de agentes y de IA física que trabajan con memoria, energía y latencia limitadas tienen una ruta documentada para probar modelos en local. El mismo runtime está pensado para pasar del DGX Spark a Jetson Thor, DRIVE AGX Thor o IGX Thor.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Modelos nuevos (EN)Leer la noticia completa en Modelos nuevos (EN)
También ese día
Todas las noticias de IA del viernes 30 de octubre de 2026 ->