Martes 27 de octubre de 2026 ·

Un usuario gana un 42% de velocidad en modelos locales al dividir tensores entre dos GPU con una conexión PCIe 3.0 x1

Relevancia 35 de 100

Útil para Programadores 85%

Un usuario con dos RTX 3060 cambió la división de capas por la de tensores en llama.cpp y pasó de 14 a 20 tokens por segundo con Gemma 4 31b, aunque una de las GPU iba por PCIe 3.0 x1. En una prueba alquilada con dos RTX 5060 Ti de 16 GB y un modelo de 71B, la generación subió de 11,7 a 20,7 t/s (+77%), pero el procesamiento del prompt bajó de 591,8 a 464,4 t/s.

Qué significa

Quien ejecuta modelos de IA en casa con varias tarjetas gráficas puede ganar velocidad de respuesta sin cambiar la placa base, aunque en una de las pruebas el procesamiento del prompt empeoró.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 27 de octubre de 2026 ->