Usuario de Reddit reporta buen rendimiento de LFM2.5-24B-A2B en Pi Agent
Un usuario de r/LocalLLaMA prueba el modelo LFM2.5-24B-A2B de LiquidAI como sustituto de Ornith 1.5-35B en varios flujos de trabajo de Pi Agent. Reporta unos 95 tokens/s sostenidos con llama.cpp (ROCm) en una AMD W7900, y que la versión Q8 ocupa unos 30 GB de VRAM con contexto de 128k. Indica que completa bien las tareas mecánicas y de larga duración, pero aún no ha evaluado su capacidad de análisis en el modo council.
Fuentes
- Reddit r/LocalLLaMAVery impressed with LFM2.5-24-A2B in Pi Agent