Investigadores del centro de IA de T-Bank presentan métodos para abaratar la IA corporativa
Útil para
El centro de IA de T-Bank ha presentado dos métodos de entrenamiento para empresas que ejecutan IA en su propia infraestructura. El primero usa un único modelo universal de 32.000 millones de parámetros que sustituye a más de 200 servicios internos y procesa solicitudes entre 2,8 y 3,9 veces más barato que Qwen3-235B, siete veces mayor. El segundo es un modelo visión-lenguaje que extrae datos de cualquier tipo de documento según una consulta de texto, con un coste un 80% inferior al procesamiento manual y un 50% inferior al de los mejores modelos abiertos.
Qué significa
Las empresas que no pueden enviar datos a modelos externos podrán consolidar varios modelos especializados en uno solo, con menos capacidad de GPU consumida.
Cómo te afecta
- CTO y tecnología
Si ejecutas IA en tu propia infraestructura, compara el coste por solicitud de un modelo único con tu parque actual de modelos especializados. Las cifras son de T-Bank, así que valídalas con tu propia carga de trabajo antes de comprar GPU.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- CNews (RU)Leer la noticia completa en CNews (RU)