Viernes 30 de octubre de 2026 ·

PyTorch añade una ruta FP8 nativa para Apple Silicon en macOS 27 con Metal 4.1

Relevancia 45 de 100

Útil para Programadores 65%

Un commit de PyTorch (#202545) añade a su backend MPS un kernel de multiplicación de matrices FP8 que usa los nuevos formatos nativos de Metal 4.1, incluidos en el SDK de macOS 27. Los kernels anteriores decodificaban cada elemento a half antes de multiplicar y alcanzaban unos 3,6 TFLOPS en un M5 Pro, unas cinco veces más lento que dequantizar a bf16 y usar mm. La nueva ruta se usa cuando ambos operandos tienen el formato de memoria que exige cuBLASLt.

Qué significa

Los modelos cuantizados en FP8 podrán ejecutarse en Mac con menos conversiones intermedias, lo que debería acelerar esa operación en ordenadores Apple. El beneficio solo aplica con macOS 27 y en los casos que cumplen las condiciones de formato.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 30 de octubre de 2026 ->