Jueves 22 de octubre de 2026 ·

Liquid AI presenta RIPL, un motor de inferencia que, según sus cifras, reduce la latencia p95 de sus LFM entre 5,6 y 28,4 veces frente a vLLM

Relevancia 51 de 100 Estados Unidos, Massachusetts

Útil para Programadores 50%

Liquid AI ha presentado RIPL (Real-time Inference Pipeline), un motor de baja latencia para sus Liquid Foundation Models (LFM), orientado a despliegues empresariales en GPUs NVIDIA. En pruebas propias en un B200, la latencia p95 de LFM2.5-1.2B fue de 155,8 ms frente a 4.431 ms de Qwen3.5-0.8B en vLLM con 256 tokens de entrada y 128 de salida. El umbral de 50 ms se cumple en peticiones cortas, pero no en las largas. Shopify utiliza LFM en cargas de comercio sensibles a la latencia, según la compañía.

Qué significa

Los equipos de búsqueda, detección de fraude o autorización de pagos podrían sustituir modelos clásicos por modelos generativos sin superar su presupuesto de latencia, algo que hasta ahora se descartaba por lento. El motor es de uso empresarial y cerrado, así que su adopción depende de Liquid AI y no de herramientas de código abierto como vLLM.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

Relacionadas

También ese día

Todas las noticias de IA del jueves 22 de octubre de 2026 ->