Martes 27 de octubre de 2026 ·

Project Maya ejecuta DeepSeek-V4.1-Flash de 748.000 millones de parámetros en una RTX 3090 a más de 25 tokens por segundo

Relevancia 48 de 100

Útil para Programadores 85%

Un autor describe la puesta en marcha de Project Maya, un motor de inferencia local basado en llama.cpp, para ejecutar en un servidor doméstico el modelo DeepSeek-V4.1-Flash con una sola RTX 3090. Según sus mediciones, la velocidad supera los 25 tokens por segundo. El motor reparte los expertos del modelo entre VRAM, RAM y SSD NVMe según su frecuencia de uso y ajusta la configuración a cada máquina.

Qué significa

Modelos de cientos de miles de millones de parámetros, que hasta ahora exigían centros de datos, empiezan a funcionar en un equipo doméstico con una tarjeta de consumo. Esto reduce la dependencia de servicios en la nube para quien quiera ejecutar modelos grandes en local.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del martes 27 de octubre de 2026 ->