406 científicos piden aislar de internet los modelos de IA
Según un borrador, una carta abierta firmada por 406 científicos, entre ellos Geoffrey Hinton y Yoshua Bengio, reclama desconectar físicamente de internet los modelos de IA y fijar normas vinculantes para otros accesos externos. Sus firmantes citan incidentes de seguridad y proponen un organismo internacional que establezca estándares, registre incidentes y publique reportes de fallos. Noam Brown, investigador de OpenAI, advierte que el aislamiento compra tiempo pero no resuelve por sí solo el problema de alineación.
Qué significa
Si se aplicara esta propuesta, los modelos dejarían de estar conectados a internet, lo que afectaría a los servicios que dependen de acceso en línea.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- Geoffrey HintonLeer la noticia completa en Geoffrey Hinton