Miércoles 4 de noviembre de 2026 ·

Un desarrollador recorta el 85% de los pesos de Gemma 4 y conserva el 92% de acuerdo en una tarea concreta: 79 tokens por segundo en un Mac

Relevancia 42 de 100

Útil para Programadores 88%

El autor podó Gemma 4 26B-A4B, un modelo MoE, hasta el 15% de su tamaño original, dejando 8 expertos por capa, lo que lo convierte en un modelo denso de 3.810 millones de parámetros y 2,75 GB en Q4_K_M. En una tarea de clasificación concreta coincide en el 92% de los casos con el original, cerca del 90% que hay entre el 12B y el 26B. En un Mac alcanza 79 tokens por segundo, el doble que el 12B, usando 3,8 GB de memoria, aproximadamente la mitad. Las tareas que requieren conocimiento general se resienten, y el método aún no se ha probado en dispositivos de usuarios reales.

Qué significa

Muestra que un modelo recortado para una sola tarea puede ser mucho más rápido y ocupar la mitad de memoria, algo clave para quien ejecuta IA en el propio dispositivo. El precio es perder conocimiento general.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del miércoles 4 de noviembre de 2026 ->