AKV, de Tsinghua y CUHK, reduce 27,7% el costo medio de agentes de IA según un estudio
Útil para
Investigadores de Tsinghua y CUHK presentaron AKV, un sistema de código abierto que modifica la caché KV de los agentes de IA sin resumir ni recortar su historial. En tres modelos y cuatro benchmarks, el sistema redujo el costo medio 27,7% y subió la puntuación media 1,7 puntos frente a una estrategia de resumen. Los resultados variaron según el modelo y la tarea, y MiniMax-M2.7 obtuvo menos puntos que con el resumen en una prueba de BrowseComp-Plus.
Qué significa
Quien ejecuta agentes de IA de forma continua podría pagar menos por su uso sin reescribir el historial de conversación. La mejora no es uniforme, ya que depende del modelo y de la tarea.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Tecnología - DiarioBitcoin.comLeer la noticia completa en Tecnología - DiarioBitcoin.com