Viernes 23 de octubre de 2026 ·

Comparativa de motores para Qwen 3.8 en una RTX 5090: Basalt, Infernix y llama.cpp

Relevancia 52 de 100

Útil para Programadores 92%

Un desarrollador de Basalt, uno de los motores evaluados, probó siete motores con el mismo punto de control de NVIDIA en formato NVFP4, en una RTX 5090 a 400 W y con 128 GB de RAM. Basalt alcanzó 354 tokens por segundo en decodificación con respuestas cortas, frente a 39 de llama.cpp. En prefill con 200.000 de contexto, Basalt llegó a 8.609 tokens por segundo. Infernix quedó segundo en decodificación en varias pruebas, mientras que llama.cpp fue el más lento de la tabla.

Qué significa

Quien ejecute Qwen 3.8 en local con una tarjeta de consumo puede obtener velocidades muy distintas según el motor elegido, con diferencias de casi diez veces en decodificación entre Basalt y llama.cpp.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 23 de octubre de 2026 ->