Martes 20 de octubre de 2026 ·
El coste oculto de cambiar de modelo de IA: el enrutamiento de LLM puede salir más caro
Útil para
Un autor explica que enviar parte de las peticiones a un modelo de lenguaje más barato no siempre ahorra, porque el nuevo modelo debe procesar desde cero todo el historial de la conversación a precio completo. Cita un estudio de Microsoft Azure Research de agosto de 2026 sobre 13,5 millones de sesiones y 760 millones de llamadas de GitHub Copilot.
Qué significa
Las herramientas que reparten tareas entre varios modelos de IA deben contar el coste de cambiar de modelo, no solo la diferencia de precio por token. En conversaciones largas, la ventaja de un modelo barato puede desaparecer.
Cómo te afecta
- Programadores
Si tu herramienta reparte peticiones entre modelos, en sesiones largas el modelo barato reprocesa todo el historial a precio completo; mide el coste por sesión, no por token. El estudio de Microsoft Azure Research sobre 13,5 millones de sesiones de GitHub Copilot lo recoge.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Towards Data ScienceLeer la noticia completa en Towards Data Science
También ese día
Todas las noticias de IA del martes 20 de octubre de 2026 ->