Viernes 30 de octubre de 2026 ·

Cómo ejecutar modelos de IA en dispositivos locales con pocos comandos: NVIDIA DGX Spark y TensorRT Edge-LLM

Relevancia 42 de 100

Útil para Programadores 72%

NVIDIA publica un tutorial para ejecutar el modelo de solo texto Nemotron-3.5 Lightning en DGX Spark, ahora disponible con 64 GB, usando TensorRT Edge-LLM, un entorno de inferencia en C++ pensado para sistemas embebidos. Con la interfaz de línea de comandos trtedge se descarga el modelo y se generan motores optimizados; después se prueban prompts en terminal, se sirve el modelo por API y se activa la decodificación especulativa DSpark para acelerar la generación. Requiere CUDA 13 y TensorRT 10.16.1.11 o posterior de la serie 10.x.

Qué significa

Los desarrolladores de sistemas embebidos, como coches, robots o líneas de producción, pueden prototipar modelos en local con el mismo entorno que luego se despliega en plataformas Jetson Thor, DRIVE AGX Thor o IGX Thor.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 30 de octubre de 2026 ->