Viernes 6 de noviembre de 2026 ·

Zyphra lanza ZYFA, kernels de atención FP8 para AMD MI355X, hasta 1,76 veces más rápidos que AITER

Relevancia 67 de 100 Estados Unidos, California

Útil para Programadores 75%

Zyphra publicó ZYFA, una librería de kernels de atención en FP8 y BF16 para GPUs AMD Instinct MI355X, con licencia Apache 2.0. Con activaciones de modelos reales, sus kernels FP8 van entre 1,16 y 1,76 veces más rápido que AITER, la librería por defecto de AMD, y con head dimension 128 su error FP8 es entre un 62% y un 78% menor. Alcanza 2.672 TFLOP/s en FP8 con 32K tokens, el 53% del pico teórico frente al 39% de AITER.

Qué significa

Quien ejecute inferencia con contextos largos en GPUs AMD MI355X puede obtener más rendimiento con una interfaz compatible con flash_attn_func. En BF16 la mejora es prácticamente nula, así que la ganancia se concentra en FP8.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 6 de noviembre de 2026 ->