Splash: motor de inferencia local para Mac con Apple Silicon diseñado para un modelo concreto
Útil para
Inco AI ha publicado Splash, un motor de inferencia de código abierto (licencia Apache-2.0) para Macs con Apple Silicon. A diferencia de motores generales como llama.cpp u Ollama, se centra en un número reducido de modelos y crea para cada uno sus propios kernels, modelo borrador y plan de memoria. Según Inco, con Qwen3.8-27B la velocidad de decodificación duplica la del siguiente motor más rápido, y con cuatro subagentes en paralelo se acerca a cuatro veces. Son cifras medidas por el propio fabricante.
Qué significa
Ejecutar modelos de IA en un ordenador personal con un motor optimizado para un único modelo puede hacer más viable el uso local de agentes de programación. Por ahora las ventajas proceden de las cifras del fabricante.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ