Domingo 25 de octubre de 2026 ·

Cerebras explica cómo ejecutar modelos de billones de parámetros en chips de oblea completa, con Kimi K3 como ejemplo

Relevancia 37 de 100 Estados Unidos, California

Cerebras describe cómo reparte un modelo frontera entre varios chips WSE-3T, cada uno con 44 GB de memoria en el propio chip, para ejecutar modelos de billones de parámetros a 1000-2000+ tokens por segundo. Usa como ejemplo el modelo abierto Kimi K3, de unos 3 billones de parámetros, que logra 88,3% en Terminal-Bench 2.1 (frente al 88,8% de GPT-5.6 Sol) y 91,2% en BrowseComp (frente al 90,4%). El cálculo asume un tamaño medio de petición de 256k, pesos cuantizados a 4 bits y caché KV de 8 bits.

Qué significa

Un solo chip no tiene memoria suficiente para un modelo de este tamaño, así que los modelos más grandes dependen de muchos chips coordados entre sí. Eso concentra la capacidad de servir modelos abiertos de gran escala en infraestructura muy especializada.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 25 de octubre de 2026 ->