Domingo 25 de octubre de 2026 ·
Cómo desplegar Kimi K3, un modelo de 3 billones de parámetros, en chips Cerebras a 1000-2000 tokens por segundo
Útil para
El artículo explica cómo Cerebras reparte un modelo abierto de unos 3 billones de parámetros entre varias obleas WSE-3T, cada una con 44 GB de memoria integrada. Usa como supuestos peticiones medias de 256.000 tokens, pesos cuantizados a 4 bits y caché KV de 8 bits. Kimi K3 obtiene 88,3% en Terminal-Bench 2.1 frente al 88,8% de GPT-5.6 Sol, y 91,2% en BrowseComp frente al 90,4% del mismo modelo.
Qué significa
Demuestra que modelos abiertos muy grandes pueden servirse a gran velocidad con hardware especializado, como alternativa a las APIs en la nube. Interesa sobre todo a empresas e infraestructura que quieran ejecutar modelos de este tamaño con alto rendimiento.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Habr IA (RU)Leer la noticia completa en Habr IA (RU)
También ese día
Todas las noticias de IA del domingo 25 de octubre de 2026 ->