Viernes 30 de octubre de 2026 ·
Dos equipos de consumo en RPC: más ancho de banda mejora el prefill un 5-17%, pero el decode no depende de él
Útil para
El autor probó seis modelos de lenguaje repartidos entre dos equipos de consumo con tres enlaces: 5GbE, un Thunderbolt 5 que no logró transferencia de extremo a extremo, y USB 10Gbps, que en la práctica llegó a unos 7,2 Gbps. Con un aumento de ancho de banda del 55%, el prefill mejora entre un 5 y un 17%. El enlace falso de Thunderbolt 5 es siempre más lento, en torno a 1,5-2,9 ms por token, mientras que USB 10G es algo más rápido en casi todos los casos, salvo con Qwen3-235B.
Qué significa
Para quien ejecute modelos de lenguaje repartidos entre varios equipos domésticos, mejorar el enlace ayuda sobre todo a procesar el prompt, pero la velocidad de generación de tokens depende de otros factores.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del viernes 30 de octubre de 2026 ->