Viernes 23 de octubre de 2026 ·
Modelos de IA locales en un portátil con RTX 5050 de 8 GB: el MoE qwen3-coder 30B llega a 33-35 tok/s
Útil para
Informe parcial de pruebas de modelos de lenguaje ejecutados en local con Ollama y llama.cpp en un portátil con RTX 5050 de 8 GB de VRAM. El modelo qwen3-coder:30b, de tipo MoE, alcanza 33-35 tok/s con 32K de contexto y supera tres tareas con código propio en Python. Activar la compresión de caché KV (q8_0) subió un 7B de 41-43 a 55-57 tok/s. Con 100K de contexto, con otras aplicaciones abiertas o al reescribir archivos grandes, no funcionó bien.
Qué significa
Un portátil de gaming con 8 GB de VRAM puede mover modelos de código de 30B si son MoE y se comprime la caché, lo que contradice la regla habitual de 7B para esa memoria. Los límites aparecen con contextos largos y con la memoria ocupada por otras aplicaciones.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del viernes 23 de octubre de 2026 ->