Sábado 24 de octubre de 2026 ·
StartLux publica en abierto Prism, un motor de inferencia para modelos de decisión con salidas idénticas bit a bit
Útil para
El equipo chino StartLux ha publicado en GitHub, el 22 de octubre, Prism, un motor de inferencia diseñado para sus modelos de decisión, que devuelven un sí o no, una elección o una puntuación de riesgo en lugar de texto largo. Según la empresa, reduce a 0,01 % el cálculo de la capa de salida en el modelo de 27.000 millones de parámetros, comparte cómputo entre preguntas similares y usa int8 con acumulación int32 para obtener resultados idénticos sin importar el tamaño del lote. La versión anterior, StartLux-Decision v1.1, funcionaba sobre vLLM.
Qué significa
Los modelos que solo deben responder con una decisión pueden ejecutarse de forma más barata y con resultados reproducibles. Por ejemplo, una evaluación de riesgo daría siempre el mismo resultado para la misma entrada, sin variaciones entre ejecuciones.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Pandaily (CN)Leer la noticia completa en Pandaily (CN)
También ese día
Todas las noticias de IA del sábado 24 de octubre de 2026 ->