Domingo 18 de octubre de 2026 ·
Llama-3-ELYZA-JP con QLoRA y cuantización GGUF para ejecutarse sin GPU
Útil para
Un autor describe cómo ejecutó Llama-3-ELYZA-JP, un modelo de lenguaje en japonés de ELYZA basado en Llama de Meta, con un QLoRA para Japanese Writer y cuantizado a GGUF Q4_K_M. Según su prueba, funciona sin GPU con 16 GB de RAM, y en Q8 también en un Mac. Estima que podría correr en un VPS de 2 núcleos y 16 GB, y ofrece encargar entrenamientos QLoRA, que calcula en 2 o 3 días.
Qué significa
Modelos de lenguaje en japonés ya pueden ejecutarse en equipos domésticos o servidores modestos sin GPU, lo que facilita a empresas pequeñas montar asistentes propios para atención al cliente sin depender de APIs de pago. Para el público general no hay cambio directo.
Cómo te afecta
- Programadores
Según la prueba del autor, el modelo cuantizado a GGUF Q4_K_M corre en 16 GB de RAM sin GPU, así que puedes probarlo en un equipo modesto. El VPS de 2 núcleos es solo una estimación suya, no una prueba.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
- Menthas #machine-learningLeer la noticia completa en Menthas #machine-learning
También ese día
Todas las noticias de IA del domingo 18 de octubre de 2026 ->