Un modelo local Qwen3.6-27B genera informes semanales, pero falla al clasificar frente al sistema actual
Útil para
El autor traslada a un único servidor local, con vLLM y el modelo denso Qwen3.6-27B, la generación de informes semanales que hoy se hace en la nube. Completó cuatro informes con cero fallos de lectura en 97 llamadas a herramientas. La caché de prefijos acertó el 84,3% en la primera ejecución, por debajo del objetivo del 95%, y la causa fue un mensaje intercalado en mitad de la conversación. La prueba de clasificación (W1) no igualó al sistema actual, por lo que se marcó como fallida.
Qué significa
Demuestra que un modelo de 27.000 millones de parámetros en una sola máquina puede completar informes de principio a fin. La clasificación de casos todavía no iguala al sistema en la nube, según la prueba.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ