Martes 20 de octubre de 2026 ·

Pruebas de contexto largo con cuatro Intel Arc Pro B65: Flash-Next y Qwen3.8-27B mantienen 45,8 tokens/s a 200K

Relevancia 43 de 100

Útil para Programadores 60%

Un usuario montó un equipo con cuatro Intel Arc Pro B65 y midió el rendimiento de salida de Flash-Next y Qwen3.8-27B con vLLM 0.30.0 en contextos de hasta 200K tokens. Flash-Next W4A16 con MTP-3 alcanza 84,5 tokens/s con una petición y sin contexto, y baja a 45,8 tokens/s con 200K. También ha iniciado pruebas de descarga de algunas capas a la RAM del sistema, por ahora solo con Flash-Next.

Qué significa

Para quien ejecuta modelos en local, hay cifras reales de una configuración de cuatro tarjetas de consumo: la velocidad cae casi a la mitad con contextos de 200K, lo que muestra el coste práctico de las ventanas largas.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 20 de octubre de 2026 ->