Viernes 23 de octubre de 2026 ·

Qwen3-0.6B convertido a MoE: nueva entrega del proyecto de conversión de modelos

Relevancia 43 de 100 China, Zhejiang

Útil para Programadores 65%

El autor publica una versión de Qwen3-0.6B convertida a arquitectura de mezcla de expertos (MoE), su primera conversión orientada al chat. Qwen3 no tiene experto compartido, y sin él la calidad cayó notablemente. Como alternativa prueba un pseudo-experto que el router elige siempre, que recupera parte de esa calidad sin igualar al experto compartido. También experimenta duplicando neuronas para crear nuevos pares de expertos, con mejoras iniciales significativas.

Qué significa

Muestra cómo adaptar técnicas de MoE de Qwen 2.5 a Qwen3 y el coste de calidad que implica no tener experto compartido. El autor baraja publicar conversiones que prioricen la calidad sobre la compatibilidad con GGUF.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 23 de octubre de 2026 ->