Viernes 23 de octubre de 2026 ·

Huawei: su diseño de almacenamiento y red multiplica por 7,3 el TPS de inferencia en pruebas de laboratorio

Relevancia 50 de 100 China, Shanghái

Huawei explicó en la Advanced Storage Conference de Shanghái, celebrada el 22 de octubre y organizada por el Open Data Center Committee, cómo quiere reducir el cuello de botella que supone mover la caché KV entre cómputo, almacenamiento y red en la inferencia de modelos grandes. Propone actuar en tres capas: acceso directo a la caché desde los aceleradores, operadores de vectores cerca del almacenamiento y la arquitectura HCF dentro de Stellar AI Fabric. Según pruebas de laboratorio de la compañía con el modelo GLM-5.2, la descarga directa de la caché KV multiplica por 7,3 el TPS de inferencia frente a un enfoque convencional basado en memoria, y la planificación coordinada de E/S entre almacenamiento y red añade un 20 % más de eficiencia.

Qué significa

Para quien opera centros de datos que sirven modelos grandes, la caché KV puede convertirse en un límite de rendimiento tan relevante como el cómputo, lo que empuja la inversión hacia el almacenamiento y la red de esos clústeres.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 23 de octubre de 2026 ->