Domingo 25 de octubre de 2026 ·

Stanford y Berkeley presentan TokenGate, que acelera hasta 11,3 veces el prefill de modelos de IA

Relevancia 63 de 100 Estados Unidos, California

Útil para Programadores 65%

Investigadores de Stanford y Berkeley han presentado TokenGate, un módulo que reduce el tiempo hasta el primer token entre 1,4 y 11,3 veces y el pico de memoria entre 1,5 y 3,4 veces al procesar entradas muy largas. Descarta tokens del documento del prompt mediante una compuerta entrenable con LoRA, sin tocar la pregunta. Los resultados son autorreportados y varían según la tarea. Según MarkTechPost, el código y los checkpoints están en GitHub con licencia Apache-2.0.

Qué significa

La fase de procesamiento del prompt, que alarga la espera en contextos largos y en agentes que encadenan muchas llamadas, podría reducirse de forma notable sin cambiar el modelo base. Esto abre la puerta a respuestas más rápidas y económicas en RAG y sistemas con agentes, aunque aún falta comprobar las cifras fuera del entorno de investigación.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 25 de octubre de 2026 ->