Miércoles 21 de octubre de 2026 ·

vLLM añade soporte desde el día 0 para Flint, un modelo MoE de 40.000 millones de parámetros de Recursive

Relevancia 53 de 100

Útil para Programadores 90%

vLLM ya soporta Flint, con checkpoints NVFP4 y BF16 que se ejecutan en una sola GPU. Con una petición única, el modelo genera unos 500 tokens por segundo en una GB200, incluso con 100.000 tokens de contexto. Flint activa unos 2.500 millones de parámetros por token y admite un contexto de 262.000 tokens.

Qué significa

Quien sirve modelos con vLLM puede ejecutar Flint en una sola GPU con contexto muy largo. El soporte llega ya integrado en la imagen Docker vllm/vllm-openai:flint.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 21 de octubre de 2026 ->