Prueba de 10 días en Mac Studio 96GB para buscar una alternativa local a Claude
El autor probó durante 10 días (del 5 al 15 de octubre) alternativas locales a Claude en un Mac Studio M5 Ultra con 96GB. El resultado fue usar Qwen3.8 Flash-Next IQ3_S con Strata en versión Mac (Metal), a 130-135 tokens por segundo con entradas cortas, y reducir el uso fijo de memoria de unos 84GB a unos 58GB. Claude sigue para el diseño y las conclusiones que se presentan a personas, mientras que resumen, clasificación y extracción de JSON pasan al modelo local. El modelo obtuvo 97,9% de acierto en 46 tareas prácticas repetidas 15 veces y 12 de 12 problemas difíciles con un límite de 64K de razonamiento.
Qué significa
Quien tenga un Mac con memoria suficiente podría mover tareas repetitivas como resumir o clasificar a un modelo local, sin enviar esos datos a un servicio externo.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ