Jueves 29 de octubre de 2026 ·
Apple describe un modelo de 20.000 millones de parámetros que funciona con unos 2 GB de memoria mediante inferencia dispersa desde flash
Útil para
Apple publicó dos trabajos de investigación. El primero describe AFM 3 Core Advanced, un modelo de 20.000 millones de parámetros que guarda todos sus pesos en memoria flash (NAND) y carga por prompt entre 1.000 y 4.000 millones, mediante Instruction-Following Pruning (IFP). El segundo, LLM in a Flash, aceptado en ACL, reutiliza neuronas activas (Windowing) y organiza filas y columnas de las capas FFN (Row-Column Bundling), lo que permite modelos del doble de la DRAM disponible con aceleraciones de 4 a 5 veces en CPU y de 20 a 25 veces en GPU.
Qué significa
Modelos bastante mayores que la memoria del dispositivo podrían ejecutarse en local, lo que rompe la idea de que todo el modelo debe caber en la RAM. Para el desarrollo de IA en móviles y portátiles, el almacenamiento flash pasa a ser una parte clave del diseño.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- #LLMタグLeer la noticia completa en #LLMタグ
También ese día
Todas las noticias de IA del jueves 29 de octubre de 2026 ->