Un ensayo de 26.000 palabras sostiene que la IA no es una caja negra
El investigador Nick Cammarata, exempleado de OpenAI y ahora en la startup Goodfire, publica un ensayo que defiende que las neuronas de los modelos de IA pueden interpretarse. Según el autor, una misma neurona detecta a la vez una cara de gato y el frontal de un coche porque responde a un patrón en forma de V. Sam Altman y un investigador de OpenAI han elogiado el texto, mientras que Neel Nanda, de Google DeepMind, lo considera interesante pero no una actualización significativa del campo. Los hallazgos no han sido revisados por pares.
Qué significa
Si la tesis se confirma, los equipos de seguridad podrían localizar y corregir los comportamientos peligrosos de los modelos desde dentro, en lugar de limitarse a filtrarlos desde fuera. Por ahora es una propuesta sin revisión por pares y con críticas de expertos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- FuturismLeer la noticia completa en Futurism
- Artificial IntelligenceLeer la noticia completa en Artificial Intelligence