Martes 27 de octubre de 2026 ·

Rock Matrix publica EdgeRock-4B, modelo open source que reduce la caché KV un 99,1%

Relevancia 47 de 100

Útil para Programadores 85%

Rock Matrix, junto a la Universidad de Ciencia y Tecnología de Hong Kong y Carnegie Mellon, ha publicado en código abierto EdgeRock-4B, un modelo de lenguaje pequeño basado en Qwen3.5-4B de Alibaba. Su caché KV queda fija en 72 MiB con contexto de 256K, frente a 8 GiB del modelo original. Con una sola GPU de 80 GB sirve 512 flujos simultáneos a 12.124 tokens por segundo, 6,42 veces más que Qwen3.5-4B, y según el equipo conserva el 96,3% de su precisión.

Qué significa

Permite atender contextos muy largos y muchos usuarios a la vez con menos memoria, lo que abarata el despliegue de modelos pequeños para quien ejecute sus propios servidores.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 27 de octubre de 2026 ->