Viernes 6 de noviembre de 2026 ·

Qwen 3.8 27B alcanza 6.645 tokens/s en prefill y 316 tokens/s en decodificación con el motor Saber

Relevancia 56 de 100 China, Zhejiang

Útil para Programadores 85%

Un desarrollador presenta Saber, un motor de inferencia escrito en Rust para GPUs AMD R9700, con soporte para tensor parallel de 1, 2 o 4 y para Qwen 3.8 27B y Flash Next. Según sus cifras, en una配置 con dos R9700 llega a 6.645 tokens/s en prefill y 316 tokens/s de pico en decodificación. Afirma que supera a los motores existentes en ambos modelos, con resultados de BetterBench enlazados.

Qué significa

Quien ejecute modelos de lenguaje en hardware AMD tiene una alternativa más que comparar con los motores ya existentes. Las cifras de rendimiento son del propio autor.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del viernes 6 de noviembre de 2026 ->