Vercel añade sesiones a los logs de su AI Gateway para seguir el coste de los agentes
Vercel ha añadido a los logs de su AI Gateway una vista de Sessions que agrupa las peticiones por conversación y muestra cómo la afinidad de sesión enrutó cada turno. Cada sesión muestra el agente o aplicación que la ejecutó (como Claude Code, Codex o Cursor), su coste, los modelos y proveedores usados y su tasa de aciertos de caché. La afinidad de sesión, activada por defecto en texto y chat, envía cada turno al proveedor que sirvió el anterior para aprovechar la caché del prompt, siempre que la aplicación envíe un sessionId estable.
Qué significa
Si tus agentes usan el AI Gateway de Vercel, puedes ver en Sessions qué conversaciones concentran el gasto y revisar si su caché se reutiliza o si la sesión salta entre proveedores.
Cómo te afecta
- Programadores
Si construyes agentes con el AI Gateway de Vercel, envía el mismo sessionId en providerOptions.gateway o el header x-session-id en cada petición de una conversación. Así los turnos se mantienen en el mismo proveedor y la caché reduce el coste. Después filtra las sesiones más caras en Sessions y revisa su tasa de aciertos de caché.
- CTO y tecnología
Comprueba si tus agentes y aplicaciones propagan un sessionId estable. Sin él, Vercel agrupa por huella del inicio de la conversación y no puede garantizar la continuidad de proveedor que hace rendir la caché. Desde la vista Sessions puedes ver el coste por agente o aplicación.
- CFO y finanzas
Desde la vista Sessions puedes ver el coste de cada conversación y de cada agente o aplicación, junto con su tasa de aciertos de caché. Así localizas en qué sesiones se concentra el gasto en IA antes de revisar el coste total.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- El Ecosistema StartupLeer la noticia completa en El Ecosistema Startup
- Vercel BlogLeer la noticia completa en Vercel Blog