Un usuario monta un agente de programación con IA en CPU usando Qwen3.5 de 9B y Aider
Útil para
El autor monta un entorno de agentes de programación sin GPU, con el modelo Qwen3.5 de 9B cuantizado en Q4 y el motor llama.cpp compilado para un Intel Core i7-14700. Con esa configuración logra 6,5 tokens por segundo, mientras que el modelo de 27B solo alcanzó 2 tokens por segundo y lo descartó. Su motivación es no agotar la cuota gratuita de servicios en la nube.
Qué significa
Demuestra que un modelo de 9B puede realizar tareas de programación en un equipo sin GPU, aunque a ritmo lento. Para quien programa con IA, es una alternativa gratuita a los servicios en la nube, a cambio de menos velocidad.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ