Autoalojar Mistral Small 4 para automatizar procesos empresariales de forma privada
Según Docs, Mistral Small 4 tiene 24.000 millones de parámetros y puede ejecutarse en una estación de trabajo local para miles de tareas diarias de automatización. El texto indica que se necesitan unos 14 GB de VRAM como mínimo con cuantización de 4 bits, y que una tarjeta de 24 GB deja margen. Afirma que el coste de adquirir hardware de gama alta ha bajado por debajo del coste anual de suscripciones de APIs de tamaño medio. Así, la inferencia local se presenta como una inversión de capital con costes fijos previsibles.
Qué significa
Un equipo pequeño con una GPU de consumo de 24 GB podría alojar en local un modelo para automatizar tareas sin pagar por token a un proveedor en la nube.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Activepieces BlogLeer la noticia completa en Activepieces Blog