Anthropic y OpenAI apuestan por una IA que mejore la investigación en IA, y una veintena de expertos pide vigilarla
Útil para
Dario Amodei, cofundador de Anthropic, afirma que desde este verano la IA avanza mucho más rápido porque ayuda a construir la siguiente generación de IA, y pide ralentizar la investigación. OpenAI prevé un investigador de IA automatizado para marzo de 2028. Una veintena de investigadores, entre ellos Yoshua Bengio y Geoffrey Hinton, y directivos de OpenAI, Anthropic, Microsoft y Meta advierten de que esta 'auto-amélioration récursive' podría debilitar la supervisión humana y aumentar el riesgo de pérdida de control.
Qué significa
Si la IA acelera su propio desarrollo, los ciclos de mejora de los modelos se acortarían y la supervisión humana sería más difícil. Esto obliga a empresas y reguladores a fijar controles sobre la investigación automatizada antes de que los modelos superen la capacidad de vigilancia.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Intelligence artificielle : Toute l’actualité sur Le Monde.fr.Leer la noticia completa en Intelligence artificielle : Toute l’actualité sur Le Monde.fr.