Kapitsa: motor de inferencia de código abierto para Apple Silicon con Qwen y Nemotron
Útil para
Nace.ai presenta Kapitsa, un motor de inferencia de código abierto (Apache 2.0) optimizado para Apple Silicon, que solo soporta las familias Qwen y NVIDIA Nemotron para ajustar sus kernels Metal. Está pensado para ejecutar agentes de programación con modelos locales en redes empresariales sin internet. Según sus cifras, en un MacBook Pro M4 Pro de 48 GB, Qwen3.5 4B alcanza 179 tokens por segundo frente a 137 de mlx-serve, y Qwen3.6 35B-A3B 154 frente a 124. La compañía pide que los resultados se comprueben con su herramienta de benchmark.
Qué significa
Quien trabaje con agentes de programación en Macs sin conexión tendrá una alternativa local a los modelos alojados en la nube, según las cifras publicadas por la propia compañía.
Cómo te afecta
- Programadores
Si trabajas con agentes en Mac sin conexión, Kapitsa (Apache 2.0) es una alternativa a mlx-serve, pero solo para Qwen y Nemotron. Las cifras son de Nace.ai en un M4 Pro de 48 GB, así que pásalas por su herramienta de benchmark en tu máquina.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA