Optimizar el reconocimiento de voz en streaming en dispositivos Arm con ExecuTorch
Útil para
Un caso práctico de Arm lleva el modelo Nemotron 3.5 de PyTorch a ExecuTorch y lo perfila en un Google Pixel 11. Muestra que la precisión en lotes no se traslada al streaming: Qwen3-ASR-1.7B vio su WER subir un 77% con fragmentos de 2,4 segundos. Nemotron Speech Streaming 0.6B tuvo el WER medio más bajo en streaming con fragmentos de 560 ms, y el análisis mide cómo influyen la precisión y el tamaño de fragmento en la calidad y la latencia.
Qué significa
Quien desarrolle asistentes de voz para móviles tendrá que medir la precisión con el tamaño de fragmento que usará en producción, porque un modelo líder en lotes puede rendir peor en tiempo real.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- PyTorch BlogLeer la noticia completa en PyTorch Blog