Domingo 1 de noviembre de 2026 ·

Yann LeCun y Randall Balestriero: un modelo de texto de 109 millones de parámetros se alinea mejor con modelos de visión que LLM de hasta 72.000 millones

Relevancia 62 de 100 Francia, Île-de-France

Un artículo de Yann LeCun y Randall Balestriero, de la Universidad de Brown, publicado en arXiv el 29 de octubre, asegura que un modelo de texto de 109 millones de parámetros entrenado con una arquitectura predictiva de embeddings conjuntos alinea sus representaciones con DINOv2 y CLIP mejor que modelos de lenguaje de hasta 72.000 millones de parámetros. Frente a DINOv2 ViT-B, el modelo pequeño obtuvo 0,184 en la métrica de alineamiento y Qwen2.5-72B 0,154. Según los autores, la convergencia depende sobre todo de qué observaciones recibe el modelo durante el entrenamiento y casi nada de su tamaño. LeCun dejó Meta meses antes para crear una startup sobre esta idea.

Qué significa

Cuestiona la premisa de que escalar los modelos de lenguaje los acerca a una comprensión común del mundo, en la que se apoya buena parte del gasto en infraestructura de IA. Según el artículo, lo que importa son las observaciones con que se entrena el modelo.

Fuentes originales

Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.

También ese día

Todas las noticias de IA del domingo 1 de noviembre de 2026 ->