GPT-6.1 Sol Ultrafast en Amazon Bedrock: respuestas 4 a 6 veces más rápidas a 6 veces el precio por token
AWS activó el modo Ultrafast de GPT-6.1 Sol en Bedrock, con un precio unitario seis veces superior al modo Standard según la ficha del modelo. En pruebas en us-east-1, el tiempo total de respuesta bajó entre 4 y 6 veces y la velocidad de generación pasó de unos 45 tokens/s a 220-260 tokens/s, con un número de tokens de razonamiento casi igual. Se activa con service_tier: 'ultrafast' en las APIs Responses y Chat Completions; Converse y InvokeModel no lo aceptaron.
Qué significa
Para usarlo hay que llamar al modelo mediante Responses o Chat Completions, no mediante Converse o InvokeModel. Pagas seis veces más por token a cambio de respuestas aproximadamente cinco veces más rápidas, lo que interesa sobre todo a asistentes de código y agentes en tiempo real.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Zennの「生成 AI」のフィードLeer la noticia completa en Zennの「生成 AI」のフィード