Miércoles 14 de octubre de 2026

PyTorch fija el contrato de TokenSwitch y añade pruebas de CI para preparar el backend MoRI de ROCm

PyTorch documenta el contrato de comportamiento de TokenSwitch, la API de enrutamiento y combinación de expertos, y añade pruebas que se ejecutan en CI sin biblioteca de expertos. El objetivo es preparar un nuevo backend, TokenSwitchMoRI, para ROCm. Un prototipo con layout plano pasa 14 pruebas en 2 y 4 GPU MI355X, mientras que las pruebas sobre NCCL no se han ejecutado por falta de hardware NVIDIA.

Fuentes

Relacionadas