«Lo estábamos mirando mal»: la afirmación que ha sacudido el mundo de la IA
Nick Cammarata, investigador de la startup Goodfire, publicó un texto de 26.000 palabras que sostiene que los grandes modelos de lenguaje podrían ser mucho más fáciles de entender, y por tanto de vigilar y controlar, de lo que se pensaba. Algunos investigadores lo celebran como un hito, pero Chris Potts, de Stanford, afirma que es poco más que una intuición y que no facilita los problemas actuales.
Qué significa
Si la tesis se confirma, supervisar y corregir los modelos que usan empresas como OpenAI o Anthropic sería más sencillo, algo que la industria busca tras los fallos de sus agentes en internet. Por ahora no hay pruebas que lo respalden.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- MIT Technology Review AILeer la noticia completa en MIT Technology Review AI