Jueves 22 de octubre de 2026 ·

Marvell propone una memoria óptica compartida de 16–32 TB para el caché KV de la inferencia de IA

Útil para Fotónica 75%

Ravi Mahatme, de Marvell, presentó la Photonic Fabric Memory Appliance (PFMA), que comparte entre hasta 16 servidores o procesadores de IA entre 16 y 32 TB de DDR5 y unos 1 TB de HBM3e mediante enlaces ópticos y un espacio de direcciones unificado. Según simulaciones, permitiría unas seis veces más conversaciones concurrentes con el mismo cómputo, aunque las latencias son estimaciones previas al silicio. Se ofrece como tarjeta PF-NIC (PCIe Gen6/CXL 3.x) o como chiplet integrado en el paquete del XPU, con un alcance óptico práctico de 25–30 metros.

Qué significa

Convierte la memoria de caché de los modelos en un recurso compartido por todo el cluster, en lugar de estar atada a una GPU concreta, lo que podría evitar recalcular contextos al retomar conversaciones largas. Su beneficio depende de que el software de inferencia sepa localizar y reutilizar esas entradas, y de que las cifras se confirmen en sistemas reales.

Cómo te afecta

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 22 de octubre de 2026 ->