Microsoft escala Maia a varios gigavatios para inferencia y su métrica de eficiencia genera dudas
Microsoft desplegará su familia de chips Azure Maia a escala de varios gigavatios desde 2027 y la describe como el sistema principal de inferencia para sus productos. Maia 200 ya está en producción y Microsoft afirma que ofrece hasta 1,7 veces más tokens por vatio que la infraestructura líder con GPU, una cifra que practicantes han cuestionado. Maia 300, orientado a inferencia, usa 8 stacks HBM4 por acelerador (288 GB, 18 TB/s, 950 W) y un rack de 96 aceleradores consume 167 kW.
Qué significa
Las herramientas de Microsoft como Teams y Copilot funcionarán cada vez más sobre chips propios de la empresa en lugar de GPU de terceros. Para el usuario el cambio es indirecto, y la eficiencia prometida aún no está verificada.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- InfoQ AI/MLLeer la noticia completa en InfoQ AI/ML