sglang-omni v0.1.8 amplía soporte XPU y MLX y optimiza modelos de voz
El proyecto sgl-project/sglang-omni publica la versión 0.1.8 con una larga lista de cambios. Destacan las optimizaciones de rendimiento para modelos de voz y omnimodales como Qwen3-Omni, Qwen3-TTS, CosyVoice3 y MiniCPM-o, así como el soporte para GPUs Intel XPU y Apple Silicon (MLX). La versión añade también streaming SSE en /v1/audio/speech, actualiza SGLang a la 0.5.21 y corrige numerosos errores.
Fuentes
- GitHub sgl-project/sglang-omnisgl-project/sglang-omni: v0.1.8