Jueves 29 de octubre de 2026 ·

Prime Intellect presenta Prime Mega MoE, un kernel que acelera hasta un 34% el entrenamiento de modelos MoE

Útil para Programadores 75%

Prime Intellect ha presentado Prime Mega MoE, un kernel de GPU basado en el Mega MoE de DeepSeek que añade el pase backward necesario para entrenar modelos de mezcla de expertos. Según la empresa, reduce hasta un 34% el tiempo de los pasos completos de entrenamiento frente a su línea base, y un 48-55% frente a TorchTitan en las pruebas descritas. La cifra de 3,11x corresponde solo al pase forward de una capa de Qwen3-30B-A3B, no al entrenamiento completo.

Qué significa

Los equipos que entrenan modelos MoE en GPU Hopper o Blackwell tienen una alternativa que acorta cada ciclo de entrenamiento y su coste en cómputo. Para el sector, confirma que la comunicación entre expertos sigue siendo un cuello de botella que se ataca con kernels fusionados y solapados.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del jueves 29 de octubre de 2026 ->