Una nueva teoría sugiere que las neuronas de la IA son más fáciles de entender de lo que se creía
Un investigador independiente que antes trabajó en OpenAI publicó un informe que parte del sector describe como un hallazgo importante. Según el texto, las neuronas de los modelos de IA y sus conexiones son más fáciles de interpretar de lo que se pensaba, cuando la opinión dominante era que eran incomprensibles. El texto señala que esto podría ayudar a los investigadores de seguridad a evitar que los modelos se desvíen de lo previsto.
Qué significa
Si los investigadores logran entender por qué una neurona de la IA se activa, podrán detectar antes comportamientos peligrosos. Hoy los equipos que entrenan modelos saben qué les entra y qué les sale, pero no por qué responden como responden.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- All Content from Business InsiderLeer la noticia completa en All Content from Business Insider