Domingo 8 de noviembre de 2026 ·

LLM local: Strata frente a Basalt con la misma RTX 5060 Ti

Relevancia 65 de 100

Útil para Programadores 85%

Lumina compara los motores de inferencia Strata 0.1.55 y Basalt 0.2.1 en un PC con RTX 5060 Ti y RTX 4060 Ti. Al pasar de dos GPU a una sola, el tiempo de respuesta con unos 130.000 tokens de entrada bajó de 93,68 s a 58,79 s, aunque el cambio también afectó al modelo y a la cuantización. El banco de pruebas incluyó 40 periodos en 4 configuraciones, con 680 peticiones en 17 condiciones, además de 620 llamadas a herramientas, 168 pruebas de texto largo y 24 de generación de código Go.

Qué significa

Para quien ejecuta modelos de lenguaje en su propio equipo, el motor, el modelo, la cuantización y el número de GPU influyen a la vez en el rendimiento. Por eso no se puede atribuir la mejora solo al motor.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 8 de noviembre de 2026 ->