Estimación en un foro de unos 46 tokens por segundo para Intel Razor Lake-AX en 2028
Un usuario de Reddit estima que Intel Razor Lake-AX, previsto para 2028, alcanzará unos 46 tokens por segundo con un modelo denso de 27.000 millones de parámetros. Su cálculo parte de los 700 TOPS del chip frente a los 275 de NVIDIA Jetson AGX Orin, que ofrece unos 18 tokens por segundo con ese modelo. Según la estimación, sería el doble que Strix Halo. El cálculo es una extrapolación no verificada.
Qué significa
Si la estimación se cumple, un portátil o equipo de sobremesa con ese chip podría ejecutar localmente un modelo de 27.000 millones de parámetros a unos 46 tokens por segundo. Por ahora es solo una proyección.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Reddit r/LocalLLaMALeer la noticia completa en Reddit r/LocalLLaMA