Martes 20 de octubre de 2026 ·

Google lanza motores de inferencia vLLM y SGLang en TPU con backends nativos de PyTorch

Relevancia 48 de 100

Útil para Programadores 75%

Google anuncia backends nativos de PyTorch para vLLM, desarrollado con Inferact, y para SGLang, desarrollado con RadixArk, que funcionan sobre TPU gracias a TorchTPU. Hasta ahora ambos motores corrían en TPU con un backend basado en JAX. Los nuevos motores incluyen funciones de servicio optimizadas para producción y kernels Pallas personalizados.

Qué significa

Los equipos que sirven modelos en PyTorch podrán depurar y personalizar su pila de inferencia directamente en PyTorch, sin pasar por JAX.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 20 de octubre de 2026 ->