NVIDIA Switchyard: enrutar las llamadas de agentes de IA entre modelos
Nvidia Switchyard es una pasarela independiente del modelo que intercepta las peticiones de los agentes de IA y las dirige al modelo más adecuado según la complejidad de la tarea. Las tareas sencillas, como la introducción de datos, se envían a modelos más pequeños en lugar de a modelos de razonamiento de primer nivel. Se ofrece como servicio gestionado en el catálogo de API de NVIDIA (build.nvidia.com), con un endpoint compatible con OpenAI y una sola clave API para todos los modelos.
Qué significa
Un desarrollador que use agentes de IA puede enviar todo el tráfico a una única URL y con una sola clave, sin gestionar credenciales separadas para cada proveedor de inferencia.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Activepieces BlogLeer la noticia completa en Activepieces Blog